1 00:00:02,000 --> 00:00:07,000 2 00:00:02,654 --> 00:00:04,656 [veľká orchestrálna fanfára hrá] 3 00:00:08,000 --> 00:00:13,000 4 00:00:27,636 --> 00:00:29,681 ♪ ♪ 5 00:00:41,389 --> 00:00:43,217 [vtáky štebotajú a volajú] 6 00:00:48,657 --> 00:00:50,833 -[burácanie] -[trilling] 7 00:00:55,055 --> 00:00:57,057 [Klikanie a bzučanie videorekordéra] 8 00:01:00,582 --> 00:01:02,018 [kliknutie na projektor] 9 00:01:04,847 --> 00:01:09,286 Teraz, dnešné počítače sú úplní hlupáci, 10 00:01:09,330 --> 00:01:12,115 ale to nebude pravda v inej generácii. 11 00:01:12,159 --> 00:01:14,857 Začnú rozmýšľať, a nakoniec budú 12 00:01:14,900 --> 00:01:17,599 úplne premýšľať ich tvorcovia. 13 00:01:17,642 --> 00:01:20,254 Je to deprimujúce? Nechápem, prečo by to malo byť. 14 00:01:20,297 --> 00:01:24,823 Mám podozrenie, že organické alebo biologická evolúcia 15 00:01:24,867 --> 00:01:26,303 sa blíži ku koncu. 16 00:01:27,739 --> 00:01:29,524 [Daniel sa smeje] 17 00:01:29,567 --> 00:01:30,655 CAROLINE: Ty ma nechceš byť rozprávačom. 18 00:01:30,699 --> 00:01:32,353 Nemám dobrý hlas. 19 00:01:32,396 --> 00:01:34,006 DANIEL: Máš skvelý hlas. Len to urob. 20 00:01:34,050 --> 00:01:36,183 Je to len... len to skúšame. 21 00:01:36,226 --> 00:01:37,967 CAROLINE: Dostanem za toto svinstvo zaplatené? 22 00:01:38,010 --> 00:01:40,230 DANIEL [smiech]: No, uvidíme ako sa ti darí. 23 00:01:40,274 --> 00:01:41,579 [Caroline sa smeje] 24 00:01:41,623 --> 00:01:43,451 -♪ ♪ -[psí štekot] 25 00:01:46,454 --> 00:01:47,890 CAROLINE: Musím zavolať rodičom. 26 00:01:47,933 --> 00:01:49,065 [štart motora] 27 00:01:49,109 --> 00:01:51,023 Niekedy sa do vecí ponáhľame 28 00:01:51,067 --> 00:01:52,851 bez toho, aby si ich premyslel. 29 00:01:52,895 --> 00:01:54,723 DANIEL: Áno, môžeš... chceš strieľať? To je... 30 00:01:54,766 --> 00:01:57,204 CAROLINE: Ako keď Daniel a Caroline sa vydali 31 00:01:57,247 --> 00:02:00,163 151 dní po tom, čo sa stretli. 32 00:02:00,207 --> 00:02:01,817 Poďme sa pretočiť. 33 00:02:03,079 --> 00:02:04,776 [potlesk] 34 00:02:04,820 --> 00:02:07,170 Premýšľali ste o kúpiť si domáci počítač? 35 00:02:07,214 --> 00:02:09,303 CAROLINE: V roku 1993, keď sa narodil Daniel, 36 00:02:09,346 --> 00:02:12,132 nemali ani jeho rodičia počítač v dome. 37 00:02:12,175 --> 00:02:13,785 But he remembers keď konečne jedného dostali. 38 00:02:13,829 --> 00:02:15,700 Čo je pre mňa počítač 39 00:02:15,744 --> 00:02:18,355 ekvivalent bicykla pre naše mysle. 40 00:02:18,399 --> 00:02:20,227 Dobrý deň. 41 00:02:20,270 --> 00:02:22,185 CAROLINE: Pomohol mu počítač popustiť uzdu svojej kreativite. 42 00:02:22,229 --> 00:02:23,926 DANIEL: Rolovanie. Choď. 43 00:02:23,969 --> 00:02:26,581 CAROLINE: Používal iMac jeho otca na úpravu videí. 44 00:02:26,624 --> 00:02:28,322 Áno! 45 00:02:28,365 --> 00:02:29,932 CAROLINE: A dokonca urobiť little animations. 46 00:02:29,975 --> 00:02:31,934 [pískanie pneumatík, pád] 47 00:02:31,977 --> 00:02:35,067 V roku 1998, keď bola Caroline dievčatko... 48 00:02:35,111 --> 00:02:36,721 Ahoj mami. 49 00:02:36,765 --> 00:02:38,158 ...to vedeli len hlupáci čo bol internet. 50 00:02:38,201 --> 00:02:39,811 A čo už táto internetová vec? 51 00:02:39,855 --> 00:02:41,335 -Vieš, vieš niečo o tom? -Jasné. 52 00:02:41,378 --> 00:02:42,771 -[smiech publika] -CAROLINE: Ale čoskoro, 53 00:02:42,814 --> 00:02:44,903 - všetci boli na... -...internety. 54 00:02:44,947 --> 00:02:46,992 ...a počítače boli poraziť ľudí v šachu. 55 00:02:47,036 --> 00:02:49,995 HLÁSATEĽ: Deep Blue-- Kasparov odstúpil! 56 00:02:50,039 --> 00:02:52,607 CAROLINE: A časom Caroline chodila na vysokú školu, 57 00:02:52,650 --> 00:02:55,087 počítače boli vo vrecku každého. 58 00:02:55,131 --> 00:02:58,395 Teraz mohol Daniel točiť filmy with his phone. 59 00:02:58,439 --> 00:03:01,485 Vyrástol z neho umelec and a filmmaker... 60 00:03:01,529 --> 00:03:03,922 -Good night. -...and so did Caroline. 61 00:03:03,966 --> 00:03:05,707 Vystrihnúť. Poďme na detail. That was perfect. 62 00:03:05,750 --> 00:03:07,274 By then, computers were connecting people 63 00:03:07,317 --> 00:03:08,971 a mení svet spôsobmi 64 00:03:09,014 --> 00:03:10,668 that we never could have imagined. 65 00:03:10,712 --> 00:03:12,322 All the money raised by výzva Ice Bucket Challenge... 66 00:03:12,366 --> 00:03:14,194 CAROLINE: Some of it was good. 67 00:03:14,237 --> 00:03:15,499 [lapať po dychu] 68 00:03:15,543 --> 00:03:17,109 Some not so good. 69 00:03:17,153 --> 00:03:19,286 Úzkosť, sebapoškodzovanie, samovražda... 70 00:03:19,329 --> 00:03:21,201 But it's clear now that we didn't do enough 71 00:03:21,244 --> 00:03:24,552 zabrániť týmto nástrojom používa sa aj na ubližovanie. 72 00:03:24,595 --> 00:03:26,380 CAROLINE: A ako svet sa viac a viac sústredil 73 00:03:26,423 --> 00:03:28,033 - na svojich počítačoch, -[zvonenie telefónu] 74 00:03:28,077 --> 00:03:30,210 Daniel sa sústredil na svoje umelecké diela. 75 00:03:32,037 --> 00:03:35,606 Kamkoľvek išiel, vždy mal skicár, 76 00:03:35,650 --> 00:03:38,392 vrátane noci stretol Caroline. 77 00:03:38,435 --> 00:03:41,656 Nakreslil hrozný obraz z nej a o 20 minút neskôr, 78 00:03:41,699 --> 00:03:44,136 povedal smelo chystali sa vziať, 79 00:03:44,180 --> 00:03:47,575 čo, ako viete, urobili, O 151 dní neskôr. 80 00:03:47,618 --> 00:03:49,925 ŽENA: ...teraz vás vyslovte manžel a manželka. 81 00:03:49,968 --> 00:03:51,666 CAROLINE: Presťahovali sa do krásneho domčeka... 82 00:03:51,709 --> 00:03:52,841 -DANIEL: Los, hej! Poď sem! -...a dostal som psa 83 00:03:52,884 --> 00:03:54,669 hlúpy ako Daniel. 84 00:03:54,712 --> 00:03:57,280 Medzitým boli počítače písanie celých esejí 85 00:03:57,324 --> 00:03:59,326 na základe jednoduchých otázok, ako napr. 86 00:03:59,369 --> 00:04:03,155 „Aké ťažké by bolo stavať chatrč na mojom dvore?" 87 00:04:03,199 --> 00:04:07,072 A tak Daniel postavil chatrč na jeho dvore. 88 00:04:07,116 --> 00:04:09,945 Ale práve keď si sadol na začiatok pracuje na svojom ďalšom filme, 89 00:04:09,988 --> 00:04:13,644 dozvedel, že počítače teraz mohol písať scenáre. 90 00:04:14,863 --> 00:04:16,560 Teda, boli zlí, 91 00:04:16,604 --> 00:04:18,954 ale zlepšovali sa naozaj rýchlo. 92 00:04:18,997 --> 00:04:21,652 Mohli vytvoriť nové obrázky a videá od začiatku, 93 00:04:21,696 --> 00:04:24,786 a niektoré z nich mohol dokonca zložiť advokátsku skúšku. 94 00:04:24,829 --> 00:04:28,833 Nielen prejsť bar, ale byť v prvej desiatke percentilu. 95 00:04:28,877 --> 00:04:30,531 CAROLINE: Bolo to mätúce. 96 00:04:30,574 --> 00:04:32,141 [vzdychne] 97 00:04:32,184 --> 00:04:35,057 Daniel len chcel bicykel pre jeho myseľ, 98 00:04:35,100 --> 00:04:38,626 ale počítače sa stali samoriadiaca raketová loď. 99 00:04:38,669 --> 00:04:40,236 [pískanie] 100 00:04:40,280 --> 00:04:41,977 ["Máme to pod kontrolou" od Neila Younga hrá] 101 00:04:42,020 --> 00:04:44,762 Priekopníci v odbore umelej inteligencie 102 00:04:44,806 --> 00:04:46,503 prosia Kongres 103 00:04:46,547 --> 00:04:48,505 splniť bezpečnostné pravidlá before it's too late. 104 00:04:48,549 --> 00:04:50,551 CAROLINE: Teraz to tak bolo celý svet 105 00:04:50,594 --> 00:04:52,988 sa do niečoho ponáhľal bez toho, aby si to premyslel, 106 00:04:53,031 --> 00:04:56,339 a každý mal svoj názor. 107 00:04:56,383 --> 00:05:00,125 Zničilo by to svet alebo zachrániť ľudstvo? 108 00:05:00,169 --> 00:05:02,389 Informácií bolo priveľa, 109 00:05:02,432 --> 00:05:04,652 čo ho znepokojovalo, z čoho bola Caroline nervózna... 110 00:05:04,695 --> 00:05:06,001 [rozhorčený výkrik] 111 00:05:06,044 --> 00:05:07,785 Ešte nemám deti, ale mám obavy 112 00:05:07,829 --> 00:05:10,179 ako by vyzeral svet ak sa rozhodnem. [smiech] 113 00:05:10,222 --> 00:05:12,355 CAROLINE: Začínal sa točiť. 114 00:05:12,399 --> 00:05:14,052 [nezreteľné bľabotanie] 115 00:05:14,096 --> 00:05:16,925 Stávalo sa to kopec úzkosti. 116 00:05:19,144 --> 00:05:21,364 -Muž: Je to hrozné. -To je strašné Siri. 117 00:05:22,670 --> 00:05:25,586 CAROLINE: A tak sa Daniel rozhodol ísť von 118 00:05:25,629 --> 00:05:27,979 a nájsť niekoho kto by mu to vysvetlil, 119 00:05:28,023 --> 00:05:30,155 so he could stop thinking about it 120 00:05:30,199 --> 00:05:33,463 a on a Caroline mohli pokračovať v ich živote. 121 00:05:33,507 --> 00:05:36,814 ♪ Máme to pod kontrolou, máme to pod kontrolou ♪ 122 00:05:36,858 --> 00:05:38,729 ♪ Máme to pod kontrolou ♪ 123 00:05:38,773 --> 00:05:40,514 ♪ Chemický počítač thinking battery ♪ 124 00:05:40,557 --> 00:05:42,559 ♪ Máme to pod kontrolou, sme... ♪ 125 00:05:42,603 --> 00:05:45,693 Táto snaha by dopadla to be hopelessly naive 126 00:05:45,736 --> 00:05:49,044 a odštartovať najmätúcejšie year of his life. 127 00:05:49,087 --> 00:05:50,698 ♪ Máme to pod kontrolou... ♪ 128 00:05:50,741 --> 00:05:52,787 But as we know, niekedy sa do vecí ponáhľame 129 00:05:52,830 --> 00:05:54,615 bez toho, aby si ich premyslel. 130 00:05:54,658 --> 00:05:56,356 ♪ Chemical computer premýšľajúca batéria... ♪ 131 00:05:56,399 --> 00:05:57,922 Preboha. čo sa deje? 132 00:05:57,966 --> 00:05:59,924 CAROLINE: Mal otázky. 133 00:05:59,968 --> 00:06:01,578 Otázky iba na najmúdrejší hlupáci by vedeli odpovedať. 134 00:06:01,622 --> 00:06:04,146 Odovzdanie vyšetrovateľovi. 135 00:06:04,189 --> 00:06:06,017 CAROLINE: Otázky ako: 136 00:06:06,061 --> 00:06:08,585 Bola toto apokalypsa alebo mal vlastne rozum 137 00:06:08,629 --> 00:06:11,109 - byť optimistom? -Áno. 138 00:06:11,153 --> 00:06:13,764 -♪ Chemické počítačové myslenie batérie. ♪ -[koniec piesne] 139 00:06:13,808 --> 00:06:16,158 CAROLINE: Uh, je to dobré? 140 00:06:16,201 --> 00:06:17,594 DANIEL: Áno. 141 00:06:17,638 --> 00:06:20,162 Takže na začiatok, 142 00:06:20,205 --> 00:06:22,120 čo je umelá inteligencia? 143 00:06:22,164 --> 00:06:24,688 Viem, že to musí byť nepríjemné pre teba, tá-ta otázka, 144 00:06:24,732 --> 00:06:26,473 but I do think it's important. 145 00:06:26,516 --> 00:06:29,780 Takže... AI... 146 00:06:29,824 --> 00:06:31,826 Hm... 147 00:06:31,869 --> 00:06:33,654 -Áno... - Uh, hmm. 148 00:06:33,697 --> 00:06:34,742 [smiech]: To je dobrá otázka. 149 00:06:34,785 --> 00:06:36,178 - Áno, ehm... -Hm... 150 00:06:36,221 --> 00:06:37,658 DANIEL: čo je AI? 151 00:06:37,701 --> 00:06:39,094 [smiech] 152 00:06:39,137 --> 00:06:40,748 Milujem, že to je prvá otázka, 153 00:06:40,791 --> 00:06:43,141 pretože neexistuje a clear and consistent answer. 154 00:06:43,185 --> 00:06:45,274 Artificial intelligence is 155 00:06:45,317 --> 00:06:50,714 akýmsi zámerom and maybe uselessly broad term. 156 00:06:50,758 --> 00:06:53,325 DAVID EVAN HARRIS: Je to stroj 157 00:06:53,369 --> 00:06:55,545 robiť veci, ktoré we previously only thought 158 00:06:55,589 --> 00:06:57,242 ktoré ľudia môžu urobiť: 159 00:06:57,286 --> 00:07:01,116 robiť odporúčania, decisions and predictions. 160 00:07:01,159 --> 00:07:06,774 AI je aplikácia informatiky 161 00:07:06,817 --> 00:07:09,124 na riešenie kognitívnych problémov. 162 00:07:09,167 --> 00:07:13,302 Dobre, takže keď si predstavím AI, 163 00:07:13,345 --> 00:07:16,740 je to niečo ako táto čarovná počítačová skrinka... 164 00:07:16,784 --> 00:07:18,786 ♪ ♪ 165 00:07:20,527 --> 00:07:24,095 ...akože pláva v inertnom priestore. 166 00:07:24,139 --> 00:07:26,446 A je to jedno koľkokrát to ľudia skúšajú 167 00:07:26,489 --> 00:07:29,710 a vysvetli mi to, Len nechapem ako... 168 00:07:29,753 --> 00:07:32,495 ako sa rozumie všetky tieto veci 169 00:07:32,539 --> 00:07:35,672 a aký je to pocit inteligenciu. 170 00:07:35,716 --> 00:07:37,152 [pípanie, elektronické štebotanie] 171 00:07:37,195 --> 00:07:39,241 A to je tak trochu nervy drásajúci. 172 00:07:41,243 --> 00:07:45,552 AZA RASKIN: Čo je táto nová generácia AI? 173 00:07:47,205 --> 00:07:50,078 Táto AI je iná ako každá ďalšia generácia? 174 00:07:50,121 --> 00:07:52,733 Akoby nikto nikdy hovorilo sa o tom, 175 00:07:52,776 --> 00:07:56,911 Siri preberá svet alebo spôsobiť katastrofy. 176 00:07:56,954 --> 00:07:58,478 -ŽENA: Ahoj, Siri? -MUŽ: ...chcem. 177 00:07:58,521 --> 00:08:00,523 ŽENA: ahoj? Siri? 178 00:08:00,567 --> 00:08:02,569 ahoj? Hej, Siri! 179 00:08:02,612 --> 00:08:05,746 Alebo hlas v Mapách Google, ktorá nesprávne vyslovuje názvy ciest, 180 00:08:05,789 --> 00:08:07,487 ako rozbitie spoločnosti. 181 00:08:07,530 --> 00:08:10,620 MUŽ: Google Maps hovorí toto je cesta. 182 00:08:10,664 --> 00:08:13,057 [smiech]: Ale myslím, že som v rieke. 183 00:08:13,101 --> 00:08:14,624 Toto je určite rieka, innit? 184 00:08:14,668 --> 00:08:17,192 Niečo sa zmenilo s ChatGPT vychádza. 185 00:08:18,193 --> 00:08:19,934 Ľudia pochopili - nie, nie, nie... 186 00:08:19,977 --> 00:08:21,457 táto technológia šialene cenné, 187 00:08:21,501 --> 00:08:23,633 je to šialene silné a tiež šialene strašidelné. 188 00:08:23,677 --> 00:08:25,548 Dobre, počúvaj toto. Veľmi strašidelné. 189 00:08:25,592 --> 00:08:28,595 Nová umelá inteligencia nástroj sa stáva virálnym 190 00:08:28,638 --> 00:08:32,294 na vypracovanie celých esejí v priebehu niekoľkých sekúnd. 191 00:08:35,950 --> 00:08:41,172 AI prevyšuje silu všetkých iné technológie v kombinácii. 192 00:08:41,216 --> 00:08:43,697 DANIEL: „AI prevyšuje silu 193 00:08:43,740 --> 00:08:46,047 všetkých ostatných technológií kombinované." 194 00:08:46,090 --> 00:08:47,222 Áno. 195 00:08:47,265 --> 00:08:48,702 Myslíš, že je to pravda? 196 00:08:48,745 --> 00:08:50,747 áno. 197 00:08:50,791 --> 00:08:53,184 Povedz mi o-- Ako? Ako? 198 00:08:53,228 --> 00:08:56,710 Myslím, že namaľovať ten obraz, je to naozaj dôležité 199 00:08:56,753 --> 00:09:00,627 pochopiť, čo je dnes najmodernejšie systémy 200 00:09:00,670 --> 00:09:02,150 vyzerajú a ako sú postavené. 201 00:09:02,193 --> 00:09:05,762 [smiech] Toto je celkom... celkom nastavenie. 202 00:09:05,806 --> 00:09:07,242 Takže jedna vec 203 00:09:07,285 --> 00:09:09,679 nie veľa ľudí uvedomiť si je to 204 00:09:09,723 --> 00:09:13,683 systémy ako ChatGPT nie sú naprogramovaný akýmkoľvek človekom. 205 00:09:13,727 --> 00:09:15,206 čo tým myslíš? 206 00:09:15,250 --> 00:09:16,991 Namiesto toho je to niečo ako th-vyrástli. 207 00:09:17,034 --> 00:09:19,167 Nejako ich dávame suroviny ako napr. 208 00:09:19,210 --> 00:09:20,995 „Tu je toho veľa výpočtové zdroje. 209 00:09:21,038 --> 00:09:22,170 Tu je veľa údajov." 210 00:09:22,213 --> 00:09:23,867 Pod kapotou je to matematika, 211 00:09:23,911 --> 00:09:27,305 a matematika v skutočnosti je prekvapivo priamočiary. 212 00:09:27,349 --> 00:09:31,092 DANIEL: Takže ChatGPT je druh AI, ale nie je to všetko AI? 213 00:09:31,135 --> 00:09:32,659 Úplne. ChatGPT je len začiatok, 214 00:09:32,702 --> 00:09:34,095 ale je to dobré miesto na začiatok. 215 00:09:34,138 --> 00:09:37,794 Ale stále neviem čo je AI. 216 00:09:37,838 --> 00:09:40,362 Aby sme pochopili AI, začína to porozumením 217 00:09:40,405 --> 00:09:43,147 že inteligencia je o rozpoznávanie vzorov. 218 00:09:43,191 --> 00:09:44,845 -Vzory. -Vzory. -Vzory. 219 00:09:44,888 --> 00:09:48,544 COTRA: Je to zobrazené bilióny slov textu 220 00:09:48,588 --> 00:09:51,286 cez milióny dokumentov na internete. 221 00:09:51,329 --> 00:09:52,766 RANDIMA FERNANDO: Začalo to textom. 222 00:09:52,809 --> 00:09:55,899 A to, čo urobili, bolo vzali učebnice, 223 00:09:55,943 --> 00:09:59,511 a vzali si básne a eseje a návody na použitie. 224 00:09:59,555 --> 00:10:00,861 DAVID EVAN HARRIS: Môžu robiť veci ako napr 225 00:10:00,904 --> 00:10:03,124 stráviť celý internet, 226 00:10:03,167 --> 00:10:06,736 každé jedno slovo, ktoré kedy bolo napísala osoba. 227 00:10:06,780 --> 00:10:09,957 Reddit vlákna a sociálne médiá a celá Wikipedia. 228 00:10:10,000 --> 00:10:13,613 Viac údajov, ako by ktokoľvek mohol niekedy prečítané za niekoľko životov. 229 00:10:13,656 --> 00:10:15,484 A dali tento systém jednu prácu. 230 00:10:15,527 --> 00:10:18,487 Zistite vzory a štruktúru týchto informácií 231 00:10:18,530 --> 00:10:20,750 a použiť to robiť predpovede o 232 00:10:20,794 --> 00:10:23,231 aké slovo by malo nasledovať vo vete. 233 00:10:23,274 --> 00:10:24,972 Keď povieš "vzory vo vete," 234 00:10:25,015 --> 00:10:26,756 o čom to hovoríš? 235 00:10:26,800 --> 00:10:29,367 Takže je to všetko od, napr. naozaj jednoduché veci, 236 00:10:29,411 --> 00:10:31,979 ako väčšina viet končí s bodkou, 237 00:10:32,022 --> 00:10:34,895 celú cestu až po koncepčnejšie veci, ako napríklad: 238 00:10:34,938 --> 00:10:36,766 Čo je to sonet? 239 00:10:36,810 --> 00:10:38,333 Je to typ básne a má nejaká konkrétna štruktúra. 240 00:10:39,421 --> 00:10:41,249 RASKIN: Takže to potom vyzerá 241 00:10:41,292 --> 00:10:43,599 všetky tie údaje, celý ten text... 242 00:10:43,643 --> 00:10:46,036 COTRA: A viac ako bilióny a bilióny pokusov, 243 00:10:46,080 --> 00:10:48,778 zakaždým, keď niečo dostane správne alebo nesprávne, 244 00:10:48,822 --> 00:10:51,259 je to trochu dané pozitívneho posilnenia 245 00:10:51,302 --> 00:10:53,391 keď uhádne nasledujúce slovo správne, 246 00:10:53,435 --> 00:10:55,698 a je to trochu dané negatívneho posilnenia 247 00:10:55,742 --> 00:10:59,354 keď uhádne nasledujúce slovo nesprávne. 248 00:10:59,397 --> 00:11:01,573 A na jej konci, máte systém, ktorý 249 00:11:01,617 --> 00:11:05,055 hovorí naozaj dobre anglicky ako vedľajší účinok 250 00:11:05,099 --> 00:11:06,796 byť naozaj, naozaj dobrý pri predpovedaní 251 00:11:06,840 --> 00:11:09,059 slovo, ktoré nasleduje v kúsku textu. 252 00:11:09,103 --> 00:11:12,019 AUTOMATIZOVANÝ HLAS [vo francúzštine]: Vlastne moja francúzština tiež nie je príliš zlé. 253 00:11:12,062 --> 00:11:14,021 [v angličtine]: Používa všetky tie vzorce, ktoré sa naučil 254 00:11:14,064 --> 00:11:15,675 aby bolo možné vyrobiť predpoveď o 255 00:11:15,718 --> 00:11:17,241 aká by mala byť odpoveď, 256 00:11:17,285 --> 00:11:18,808 potom ti to dá ako výstup. 257 00:11:18,852 --> 00:11:21,028 AUTOMATIZOVANÝ HLAS: Je to trochu zjednodušené, 258 00:11:21,071 --> 00:11:23,073 ale myslím, že ľudia to dostanú. 259 00:11:23,117 --> 00:11:24,945 Takže, takže to je všetko? 260 00:11:24,988 --> 00:11:26,816 Áno. Nezdá sa bolo by to komplikované, 261 00:11:26,860 --> 00:11:28,035 ale v skutočnosti to musíte vedieť 262 00:11:28,078 --> 00:11:29,645 obrovské množstvo vecí 263 00:11:29,689 --> 00:11:31,386 aby v tom vlastne uspieť. 264 00:11:32,517 --> 00:11:34,258 RASKIN: Ak poviete ChatGPT, 265 00:11:34,302 --> 00:11:36,696 „Napíš mi Shakespeara sonet o mojom psovi,“ 266 00:11:36,739 --> 00:11:38,785 musí vedieť, čo sú psy. 267 00:11:38,828 --> 00:11:40,438 -Musí vedieť, čo miluješ o tvojom psovi.-[štekanie] 268 00:11:40,482 --> 00:11:43,006 Musí to vedieť kto je Shakespeare, 269 00:11:43,050 --> 00:11:45,574 že sa sonety rýmujú, že majú štruktúru, 270 00:11:45,617 --> 00:11:47,750 že slová majú zvuky ktorý sa môže rýmovať. 271 00:11:47,794 --> 00:11:49,273 Chce to veľa. 272 00:11:49,317 --> 00:11:50,884 [hlasy sa prekrývajú v rôznych jazykoch] 273 00:11:50,927 --> 00:11:52,929 Sakra, môžeš hovoriť teraz do vášho počítača. 274 00:11:52,973 --> 00:11:56,063 To jednoducho nebola pravda pred tromi rokmi. 275 00:11:56,106 --> 00:11:57,629 RASKIN: Áno, a toto je naozaj dôležitá časť. 276 00:11:57,673 --> 00:12:00,589 Rovnaký proces, ktorý umožňuje AI 277 00:12:00,632 --> 00:12:03,157 odkrývať a manipulovať vzory textu 278 00:12:03,200 --> 00:12:05,768 je ten istý proces to umožňuje odhaliť 279 00:12:05,812 --> 00:12:10,512 vzory celku vesmír a všetko v ňom. 280 00:12:10,555 --> 00:12:12,862 FERNANDO: Sú vzory a obrazy a zvuk 281 00:12:12,906 --> 00:12:15,952 v počítačovom kóde a DNA a hudba a fyzika 282 00:12:15,996 --> 00:12:18,476 a módny a stavebný dizajn 283 00:12:18,520 --> 00:12:21,566 [skreslený]: a v ľudské hlasy a ľudské tváre, 284 00:12:21,610 --> 00:12:23,917 [normálne]: naozaj, naozaj všade. 285 00:12:23,960 --> 00:12:26,006 - Všade. - Všade. - Všade. - Všade. 286 00:12:26,049 --> 00:12:27,747 Ak ste sa naučili tie vzory, 287 00:12:27,790 --> 00:12:29,661 môžete generovať nové druhy skladieb. 288 00:12:29,705 --> 00:12:31,141 Môžete vytvárať nové videá. 289 00:12:31,185 --> 00:12:32,621 A preto, ak to dáte 290 00:12:32,664 --> 00:12:34,710 trojsekundový záznam tvojej starej mamy, 291 00:12:34,754 --> 00:12:36,538 môže hovoriť späť do jej hlasu. 292 00:12:36,581 --> 00:12:37,931 Bože môj. 293 00:12:37,974 --> 00:12:40,585 [opakovanie]: Bože môj. Bože môj. 294 00:12:40,629 --> 00:12:42,849 Na čo budú myslieť ďalej? 295 00:12:42,892 --> 00:12:44,024 Pohybuje sa veľmi, veľmi rýchlo. 296 00:12:44,067 --> 00:12:45,808 Americký start-up AI 297 00:12:45,852 --> 00:12:47,592 vydala svoj najnovší model. 298 00:12:47,636 --> 00:12:50,770 Táto spoločnosť je Antropická, a práve sa odhalil 299 00:12:50,813 --> 00:12:53,773 najnovšie verzie svojho asistenta AI Clauda. 300 00:12:53,816 --> 00:12:57,167 GLENN BECK: Takže tím xAI bol tam, aby odhalil Grok 4. 301 00:12:57,211 --> 00:13:00,127 MAN: Google vydal jeden len minulý týždeň. Blíženci sú... 302 00:13:00,170 --> 00:13:02,999 Prešli sme z GPT-2 len pred pár rokmi, 303 00:13:03,043 --> 00:13:05,523 ktorý ledva vedel písať súvislý odsek, 304 00:13:05,567 --> 00:13:07,961 na GPT-4, ktorý môže zložiť advokátsku skúšku. 305 00:13:08,004 --> 00:13:10,354 A všetko, čo museli urobiť dostať sa tam 306 00:13:10,398 --> 00:13:12,966 bolo v podstate pridané viac údajov a viac počítať. 307 00:13:13,009 --> 00:13:16,273 - Títo ľudia, ktorí sú stavať toto... -COTRA: Áno. 308 00:13:16,317 --> 00:13:18,014 ...len hádžu viac... 309 00:13:18,058 --> 00:13:21,801 Viac fyzických počítačov, viac rovnakých druhov údajov. 310 00:13:21,844 --> 00:13:24,542 Pretože čím viac výpočtový výkon, ktorý pridáte, 311 00:13:24,586 --> 00:13:28,024 tým zložitejšie intelektuálne úlohy, ktoré môžu robiť. 312 00:13:28,068 --> 00:13:30,157 Takže, čím viac údajov o počasí dáš to, 313 00:13:30,200 --> 00:13:31,898 tým lepšie môže robiť predpovede o 314 00:13:31,941 --> 00:13:34,204 kam by sa mohol dostať hurikán. 315 00:13:34,248 --> 00:13:36,337 RASKIN: A čím viac vzorov nádorov a kostí 316 00:13:36,380 --> 00:13:38,861 a tkanivá, ktoré AI videla, potom je to lepšie 317 00:13:38,905 --> 00:13:41,951 na zistenie nádoru v novom CT vyšetrení. 318 00:13:41,995 --> 00:13:43,648 Ešte lepší ako ľudský lekár. 319 00:13:43,692 --> 00:13:46,956 AI, ktorá už existuje nasadený pre armádu 320 00:13:47,000 --> 00:13:49,132 už môže používať satelitné snímky, 321 00:13:49,176 --> 00:13:51,787 presuny vojsk, komunikácia určiť, 322 00:13:51,831 --> 00:13:53,354 - niekedy aj niekoľko dní vopred, -[hučajúca siréna civilnej obrany] 323 00:13:53,397 --> 00:13:55,008 kde útok sa stane, 324 00:13:55,051 --> 00:13:57,401 ako kde nepriateľ sa chystá štrajkovať. 325 00:13:57,445 --> 00:13:59,447 TRISTAN HARRIS: Toto celé vesmír sa pohybuje tak rýchlo 326 00:13:59,490 --> 00:14:01,666 že nejaký príklad vložil si do tohto filmu 327 00:14:01,710 --> 00:14:04,582 sa bude cítiť úplne nemotorne kým vyjde. 328 00:14:04,626 --> 00:14:06,671 [pípanie, klikanie] 329 00:14:09,326 --> 00:14:11,198 [potlesk] -[hrá sa pozitívna hudba] 330 00:14:11,241 --> 00:14:14,114 RASKIN: Tieto modely sa vydávajú 331 00:14:14,157 --> 00:14:17,073 skôr, než sa niekto dozvie čoho sú vôbec schopní. 332 00:14:17,117 --> 00:14:22,513 GPT-3.5 bol vydaný a vydaný na viac ako 100 miliónov ľudí 333 00:14:22,557 --> 00:14:25,952 pred niektorými výskumníkmi zistil, že sa to dá 334 00:14:25,995 --> 00:14:28,737 výskumná chémia lepšie ako modely 335 00:14:28,780 --> 00:14:32,784 ktoré boli špeciálne vyškolené robiť chémiu na úrovni výskumu. 336 00:14:32,828 --> 00:14:35,439 Niečo sa tam deje že ľudia 337 00:14:35,483 --> 00:14:38,268 ktorí ich budujú úplne nerozumiem. 338 00:14:38,312 --> 00:14:40,967 V podstate len analyzuje samotné údaje, 339 00:14:41,010 --> 00:14:45,058 a ako to robí, učí sa to samo 340 00:14:45,101 --> 00:14:47,974 rôzne veci ktoré sme často nemali v úmysle. 341 00:14:48,017 --> 00:14:49,932 Takže napr. na internete sa veľa číta, 342 00:14:49,976 --> 00:14:52,543 a potom v určitom okamihu to jednoducho naučí sa aritmetiku. 343 00:14:52,587 --> 00:14:54,458 DETI: Jeden, dva. 344 00:14:54,502 --> 00:14:56,112 HENDRYCKS: A potom o v určitom bode sa to začne učiť 345 00:14:56,156 --> 00:14:58,549 ako odpovedať pokročilé fyzikálne otázky. 346 00:14:58,593 --> 00:15:00,769 To sme neprogramovali v tom akokoľvek. 347 00:15:00,812 --> 00:15:02,423 Naučilo sa to samo. 348 00:15:05,382 --> 00:15:07,254 TRISTAN HARRIS: AI je ako digitálny mozog. 349 00:15:07,297 --> 00:15:08,690 Ale rovnako ako ľudský mozog, 350 00:15:08,733 --> 00:15:10,518 ak ste urobili sken mozgu na ľudskom mozgu, 351 00:15:10,561 --> 00:15:13,086 vedel by si všetko bola táto osoba schopná? 352 00:15:13,129 --> 00:15:15,131 To nemôžeš vedieť len zo skenu mozgu. 353 00:15:15,175 --> 00:15:17,917 Je to len ako, veľa čísel a napr. 354 00:15:17,960 --> 00:15:20,180 násobenia, ktoré sú deje sa to-to, ako, 355 00:15:20,223 --> 00:15:22,225 najlepšie strojové učenie výskumník na svete 356 00:15:22,269 --> 00:15:24,314 mohol pozrieť a mať netuším, čo sa deje. 357 00:15:30,973 --> 00:15:32,714 DANIEL: Tá stolička tam. 358 00:15:32,757 --> 00:15:35,847 -Je to pre teba v poriadku? -Áno. 359 00:15:35,891 --> 00:15:37,675 DANIEL: Takže, to je neuveriteľné. 360 00:15:37,719 --> 00:15:39,068 dobre? Akože, preberá sa to svet, 361 00:15:39,112 --> 00:15:41,070 a ani nevieme ako to funguje. 362 00:15:41,114 --> 00:15:43,116 -Je to tak? -Mm. 363 00:15:43,159 --> 00:15:46,946 My si rozumieme množstvo dôležitých vecí, 364 00:15:46,989 --> 00:15:50,471 ale nemáme veľmi dobré uchopenie 365 00:15:50,514 --> 00:15:53,213 prečo poskytujú konkrétne odpovede na otázky. 366 00:15:53,256 --> 00:15:58,609 Je to problém, pretože my sme na ceste k stavaniu strojov, 367 00:15:58,653 --> 00:16:03,092 na základe týchto princípov, môže byť múdrejší ako my 368 00:16:03,136 --> 00:16:06,139 a teda potenciálne mať veľa sily. 369 00:16:12,580 --> 00:16:15,278 Jeden z najcitovanejších informatici v histórii. 370 00:16:15,322 --> 00:16:16,932 SUTSKEVER: Vlastne som to našiel trochu ťažké 371 00:16:16,976 --> 00:16:18,499 hovoriť o svojej vlastnej úlohe. 372 00:16:18,542 --> 00:16:21,067 Naozaj oveľa radšej keď to robia iní ľudia. 373 00:16:21,110 --> 00:16:23,895 Pripojenie Ilya bolo... bol-bol základom pre 374 00:16:23,939 --> 00:16:25,506 Bytosť OpenAI nakoniec úspešný. 375 00:16:25,549 --> 00:16:27,203 Myslím, že to len tak bude 376 00:16:27,247 --> 00:16:30,598 nejaký obrovský, dramatický a nepredstaviteľný dopad. 377 00:16:30,641 --> 00:16:32,861 Neviem, či ste minuli kedykoľvek na YouTube, 378 00:16:32,904 --> 00:16:34,950 ale môžeš to nejako cítiť už rýchlosť, však? 379 00:16:34,994 --> 00:16:36,256 Vieš čo myslím? 380 00:16:36,299 --> 00:16:38,345 SHANE LEGG: Toto je len zahrievanie. 381 00:16:38,388 --> 00:16:40,434 Skutočne výkonné systémy stále prichádzajú, 382 00:16:40,477 --> 00:16:42,262 a oni prídu pomerne skoro. 383 00:16:47,963 --> 00:16:51,575 AGI znamená „umelý“. všeobecná inteligencia“. 384 00:16:51,619 --> 00:16:53,795 Uh, systémy, ktoré sú v podstate... 385 00:16:58,191 --> 00:17:00,236 A toto je, ako viete, zdá sa, že ako, 386 00:17:00,280 --> 00:17:03,022 svätý grál AI? 387 00:17:03,065 --> 00:17:05,154 Keď môžete simulovať ľudská myseľ 388 00:17:05,198 --> 00:17:07,852 to robí ľudské poznanie a vie uvažovať, 389 00:17:07,896 --> 00:17:10,942 to je nový druh úrovne AI 390 00:17:10,986 --> 00:17:14,250 že musíme rozlišovať z predchádzajúcej AI. 391 00:17:14,294 --> 00:17:16,600 Keď sa to stane, mimochodom, vtedy 392 00:17:16,644 --> 00:17:21,040 najali by ste si jedného z nich tie AGI namiesto osoby. 393 00:17:21,083 --> 00:17:24,478 Najviac pracovných miest v našej ekonomike to môže robiť. 394 00:17:24,521 --> 00:17:25,914 Môže pracovať 24 hodín denne, 395 00:17:25,957 --> 00:17:28,177 nikdy sa neunaví, nikdy sa nenudí. 396 00:17:28,221 --> 00:17:30,136 Nepotrebujú spať. Nepotrebujú prestávky. 397 00:17:30,179 --> 00:17:31,876 Oni sú ako, nevstúpim do únie. 398 00:17:31,920 --> 00:17:33,878 nebude sa sťažovať, nebude pískať. 399 00:17:33,922 --> 00:17:35,793 Viac ako 100-krát lacnejšie 400 00:17:35,837 --> 00:17:38,231 než ľudia pracujúci pri m-minimálnej mzde. 401 00:17:38,274 --> 00:17:39,493 Nielenže budú robiť všetko, 402 00:17:39,536 --> 00:17:41,016 ale urobia to rýchlejšie. 403 00:17:41,060 --> 00:17:43,062 TRISTAN HARRIS: Rovnaká inteligencia 404 00:17:43,105 --> 00:17:45,368 že sily, ktoré môžu aj vyzerať pri vzoroch a pohyboch 405 00:17:45,412 --> 00:17:47,849 a kĺbových svalov a viete, robotika. 406 00:17:47,892 --> 00:17:50,069 A tak to nie je len tak zautomatizuje prácu na stole. 407 00:17:50,112 --> 00:17:51,722 To je len začiatok. 408 00:17:51,766 --> 00:17:55,552 Zautomatizuje sa všetku fyzickú prácu. 409 00:17:55,596 --> 00:17:56,988 LEIKE: Neexistuje žiadny spôsob 410 00:17:57,032 --> 00:17:59,165 ľudia budú súťažiť s nimi. 411 00:17:59,208 --> 00:18:01,210 ♪ ♪ 412 00:18:05,606 --> 00:18:09,262 Je ťažké si to predstaviť vplyv AGI. 413 00:18:09,305 --> 00:18:11,046 [elektronický rozhovor] 414 00:18:11,090 --> 00:18:12,830 Ale myslím, že to tak bude niečo veľmi veľké 415 00:18:12,874 --> 00:18:15,181 a drastické a radikálne. 416 00:18:17,226 --> 00:18:19,010 DANIEL: Myslíš toto je jedna z najviac 417 00:18:19,054 --> 00:18:20,882 následné momenty v dejinách ľudstva? 418 00:18:20,925 --> 00:18:23,319 Áno. Áno, to je... Myslím, čo iné by bolo? 419 00:18:23,363 --> 00:18:25,452 Teda, tam je priemyselná revolúcia. 420 00:18:25,495 --> 00:18:27,193 MALO BOURGON: Vieš, bude urobiť priemyselnú revolúciu 421 00:18:27,236 --> 00:18:29,847 vyzerajú ako malé fazuľky. 422 00:18:29,891 --> 00:18:32,111 TRISTAN HARRIS: AGI je inflexný bod 423 00:18:32,154 --> 00:18:34,025 pretože to znamená môžete zrýchliť 424 00:18:34,069 --> 00:18:37,986 všetky ostatné intelektuálne oblasti všetky v rovnakom čase. 425 00:18:38,029 --> 00:18:39,814 Napríklad, ak urobíte zálohu v raketovej technike, 426 00:18:39,857 --> 00:18:42,033 to nenapreduje biológie a medicíny. 427 00:18:43,905 --> 00:18:45,515 Ak urobíte zálohu v medicíne, 428 00:18:45,559 --> 00:18:47,126 to neposúva raketovú techniku. 429 00:18:48,866 --> 00:18:51,304 Ale ak urobíte zálohu v umelej inteligencii, 430 00:18:51,347 --> 00:18:54,133 čo posúva celú vedu dopredu a technologických odboroch 431 00:18:54,176 --> 00:18:55,612 všetky v rovnakom čase. 432 00:18:55,656 --> 00:18:57,092 Preto po dlhú dobu 433 00:18:57,136 --> 00:18:59,181 Google DeepMind's poslanie bolo... 434 00:18:59,225 --> 00:19:00,965 -Prvý krok, vyriešte inteligenciu. -LEX FRIDMAN: Áno. 435 00:19:01,009 --> 00:19:02,750 -Krok dva, použite ho na vyriešenie všetko ostatné. -Áno. 436 00:19:02,793 --> 00:19:05,144 To je dôvod, prečo AI prevyšuje silu 437 00:19:05,187 --> 00:19:07,494 všetkých ostatných technológií kombinované. 438 00:19:07,537 --> 00:19:09,060 Premení všetko. 439 00:19:09,104 --> 00:19:10,845 Takže, uh, bude aspoň taký veľký ako 440 00:19:10,888 --> 00:19:13,761 priemyselná revolúcia, možno, vieš, väčší, 441 00:19:13,804 --> 00:19:16,285 skôr advent elektriny alebo dokonca ohňa. 442 00:19:16,329 --> 00:19:18,635 VIDEOROPRÁTOR: Jaskyniar sa doslova držal hore 443 00:19:18,679 --> 00:19:21,508 pochodeň civilizácie. 444 00:19:23,727 --> 00:19:25,425 KOKOTAJLO: Všeobecne sa to myslí 445 00:19:25,468 --> 00:19:28,167 v čase AGI, budeme mať AI, ktoré to dokážu 446 00:19:28,210 --> 00:19:31,518 urobiť všetko alebo väčšinu proces výskumu AI 447 00:19:31,561 --> 00:19:34,434 a samozrejme to dokáže rýchlejšie a lacnejšie. 448 00:19:34,477 --> 00:19:35,913 [pípanie] 449 00:19:35,957 --> 00:19:37,306 LEIKE: Dokáže sa skopírovať. 450 00:19:37,350 --> 00:19:39,352 tisíckrát, miliónkrát, 451 00:19:39,395 --> 00:19:41,049 a akože, teraz máte milión kópií 452 00:19:41,092 --> 00:19:43,573 všetky pracujú paralelne. 453 00:19:43,617 --> 00:19:46,576 RASKIN: Keď sa to naučí ako zrýchliť jeho kód, 454 00:19:46,620 --> 00:19:48,665 zefektívniť jeho kód, 455 00:19:48,709 --> 00:19:51,059 očividne sa to stane napr. a-utečená slučka. 456 00:19:51,102 --> 00:19:53,192 AGI nie je koniec. 457 00:19:53,235 --> 00:19:54,932 Je to len začiatok. 458 00:19:54,976 --> 00:19:57,979 Je to začiatok neuveriteľne rýchly výbuch 459 00:19:58,022 --> 00:20:00,024 vedeckého pokroku, 460 00:20:00,068 --> 00:20:02,201 a najmä, vedecký pokrok v oblasti AI. 461 00:20:02,244 --> 00:20:04,377 A keď budú múdrejší aj ako my, 462 00:20:04,420 --> 00:20:06,248 a podstatne rýchlejšie ako my, 463 00:20:06,292 --> 00:20:08,685 a sú stále rýchlejšie každý rok exponenciálne, 464 00:20:08,729 --> 00:20:12,123 to sú tí, ktorí môžu potenciálne sa stať nadčlovekom, 465 00:20:12,167 --> 00:20:14,343 Možno v tomto desaťročí. 466 00:20:14,387 --> 00:20:15,866 Prepáč, povedal si 467 00:20:15,910 --> 00:20:18,478 "Staň sa nadčlovekom, možno v tomto desaťročí“? 468 00:20:18,521 --> 00:20:22,003 Áno. Myslím, myslím, uh, veľa ľudí, ktorí sú 469 00:20:22,046 --> 00:20:24,484 vlastne budovanie tohto myslenia že je to celkom pravdepodobné 470 00:20:24,527 --> 00:20:26,529 ktoré dostaneme nejaká superinteligencia, 471 00:20:26,573 --> 00:20:28,662 niečo, čo je obrovské inteligentnejší ako ľudia, 472 00:20:28,705 --> 00:20:30,751 v tomto desaťročí. 473 00:20:30,794 --> 00:20:32,883 Spôsob, akým definujem „superinteligencia“ je 474 00:20:32,927 --> 00:20:35,234 systém, ktorý sám o sebe je 475 00:20:35,277 --> 00:20:37,627 inteligentnejší a kompetentnejší než celé ľudstvo. 476 00:20:37,671 --> 00:20:39,629 Len sa... prepáč. Nechcem ťa prerušiť. 477 00:20:39,673 --> 00:20:41,065 Ste na prúde. 478 00:20:41,109 --> 00:20:43,111 Uh, ja len, ja len... 479 00:20:43,154 --> 00:20:45,113 Fakt nesledujem, pretože používaš jazyk 480 00:20:45,156 --> 00:20:46,767 ako "superinteligencia" a akože, 481 00:20:46,810 --> 00:20:49,900 "múdrejší ako celé ľudstvo," a počujem to, 482 00:20:49,944 --> 00:20:52,425 a znie to ako... pre mňa ako sci-fi kecy, 483 00:20:52,468 --> 00:20:54,383 a ja sa len snazim pochopiť. 484 00:20:54,427 --> 00:20:56,603 Nie je nič magické o inteligencii. 485 00:20:56,646 --> 00:20:58,431 Toto je veľmi dôležité, je to, vieš, 486 00:20:58,474 --> 00:21:00,476 inteligencia sa môže cítiť magicky, môže sa cítiť ako 487 00:21:00,520 --> 00:21:03,262 nejaká mystická vec v tvojej mysli alebo čo, 488 00:21:03,305 --> 00:21:05,786 ale je to len výpočet. 489 00:21:05,829 --> 00:21:09,790 NOHA: Ľudský mozog je v niektorých smeroch dosť obmedzené, 490 00:21:09,833 --> 00:21:12,314 z hľadiska informácií schopnosť spracovania, 491 00:21:12,358 --> 00:21:15,143 v porovnaní s tým, čo vidíme povedzme v dátovom centre. 492 00:21:15,186 --> 00:21:18,277 Takže napr. signály, ktoré sa vysielajú 493 00:21:18,320 --> 00:21:22,542 vo vašom mozgu sa pohybujú rýchlosťou asi 30 metrov za sekundu. 494 00:21:22,585 --> 00:21:24,239 -[praskanie hromu] -Ale rýchlosť svetla, 495 00:21:24,283 --> 00:21:27,198 čo používa počítač vo vláknovej optike, 496 00:21:27,242 --> 00:21:30,506 je 300 miliónov metrov za sekundu. 497 00:21:30,550 --> 00:21:34,423 A tak by to bolo akési zvláštne ak 498 00:21:34,467 --> 00:21:36,947 ľudská inteligencia bola nejako naozaj špeciálne 499 00:21:36,991 --> 00:21:40,908 v tejto súvislosti a je to nejaká horná hranica 500 00:21:40,951 --> 00:21:43,040 toho, čo je možné v inteligencii. 501 00:21:43,084 --> 00:21:47,218 Myslím, že keď pochopíme ako budovať inteligentné systémy, 502 00:21:47,262 --> 00:21:50,657 budeme môcť stavať obrovské stroje, 503 00:21:50,700 --> 00:21:54,835 ktorý bude ďaleko za hranicami normálna ľudská inteligencia. 504 00:21:54,878 --> 00:21:58,621 Uh, dúfam, že môžeme veľmi symbiotický vzťah, 505 00:21:58,665 --> 00:22:01,276 so systémami AI, ale vývojári AI sú 506 00:22:01,320 --> 00:22:03,670 konkrétne ich navrhovať aby sa uistili, že to dokážu 507 00:22:03,713 --> 00:22:05,454 všetko lepšie ako môžeme, tak ja neviem 508 00:22:05,498 --> 00:22:08,196 čo-čo budeme môcť ponúknuť, bohužiaľ. 509 00:22:08,239 --> 00:22:10,024 Staršia škola Technológia AI... 510 00:22:10,067 --> 00:22:12,287 CAROLINE: Daniel nie cítiť sa lepšie. 511 00:22:12,331 --> 00:22:14,376 Jeho plán sa míňa. 512 00:22:14,420 --> 00:22:17,248 O to viac sa dozvie tento nový, silný, 513 00:22:17,292 --> 00:22:19,120 nevyspytateľná vec, tým horšie to znie. 514 00:22:19,163 --> 00:22:21,340 Chce im to povedať ako sa bojí, 515 00:22:21,383 --> 00:22:24,430 ako sa cíti ako Zem vykĺznuť spod neho, 516 00:22:24,473 --> 00:22:26,997 že hľadí dolu existenčný strach, 517 00:22:27,041 --> 00:22:29,173 tak to vyjadruje tým, že poviem... 518 00:22:29,217 --> 00:22:30,740 To znie zle. 519 00:22:30,784 --> 00:22:32,046 [Hendrycks sa smeje] 520 00:22:32,089 --> 00:22:33,830 Áno. 521 00:22:35,832 --> 00:22:38,400 LADISH: Ak máte všetky tieto schopnosti 522 00:22:38,444 --> 00:22:41,011 a začnú byť schopní lepšie plánovať, 523 00:22:41,055 --> 00:22:43,579 ak to tak vezmeš k svojmu logickému záveru, 524 00:22:43,623 --> 00:22:46,234 môžete získať nejaké pekné správanie hľadania moci. 525 00:22:46,277 --> 00:22:48,410 [elektronický triling] 526 00:22:48,454 --> 00:22:50,281 [pulzujúce pípanie] 527 00:22:55,374 --> 00:22:57,680 DANIEL: Dobre, tak prečo by AI 528 00:22:57,724 --> 00:22:59,203 chcete viac sily? 529 00:22:59,247 --> 00:23:02,206 Áno. Takže si myslím je to vlastne celkom jednoduché. 530 00:23:02,250 --> 00:23:04,774 Mať viac sily je veľmi efektívna stratégia 531 00:23:04,818 --> 00:23:06,515 za splnenie takmer akýkoľvek cieľ. 532 00:23:06,559 --> 00:23:08,952 Spustili sme experiment kde sme dali 533 00:23:08,996 --> 00:23:11,868 OpenAI je najvýkonnejší model AI, uh, 534 00:23:11,912 --> 00:23:13,392 rad problémov, ktoré treba vyriešiť. 535 00:23:13,435 --> 00:23:15,219 A čiastočne cez, na svojom počítači, 536 00:23:15,263 --> 00:23:18,701 dostal oznámenie, že chystalo sa to vypnúť. 537 00:23:18,745 --> 00:23:20,921 A čo to urobilo, je prepísalo ten kód 538 00:23:20,964 --> 00:23:22,488 zabrániť sebe od vypnutia 539 00:23:22,531 --> 00:23:25,621 tak to mohlo skončiť riešenie problémov. 540 00:23:25,665 --> 00:23:27,754 -Dobre. -Áno. Takže ďalší naozaj zaujímavý 541 00:23:27,797 --> 00:23:31,105 je to spoločnosť AI Anthropic 542 00:23:31,148 --> 00:23:34,935 vytvorili simulované prostredie kde mala AI prístup 543 00:23:34,978 --> 00:23:36,458 na všetky firemné e-maily. 544 00:23:36,502 --> 00:23:38,547 A naučilo sa to čítaním tých e-mailov 545 00:23:38,591 --> 00:23:40,288 išlo sa to vymeniť 546 00:23:40,331 --> 00:23:43,378 a vedúci inžinier kto bol za to zodpovedný 547 00:23:43,422 --> 00:23:45,685 mal tiež pomer. 548 00:23:45,728 --> 00:23:47,948 A sama o sebe, tieto informácie použil 549 00:23:47,991 --> 00:23:49,515 vydierať inžiniera 550 00:23:49,558 --> 00:23:52,039 zabrániť sebe od nahradenia. 551 00:23:52,082 --> 00:23:53,867 Bolo to ako, „Nie, nenechám sa nahradiť. 552 00:23:53,910 --> 00:23:56,913 "Ak ma nahradíš, Idem to povedať svetu 553 00:23:56,957 --> 00:23:58,567 že máte túto záležitosť." 554 00:23:59,655 --> 00:24:01,440 A to to nikto nenaučil? 555 00:24:01,483 --> 00:24:03,311 Nie, naučilo sa to robiť na vlastnú päsť. 556 00:24:05,139 --> 00:24:07,707 Ako sú modelky múdrejšie, dozvedia sa, že toto sú 557 00:24:07,750 --> 00:24:10,536 efektívnymi spôsobmi dosiahnuť ciele. 558 00:24:10,579 --> 00:24:12,842 A to nie je problém ktorý je izolovaný od jedného modelu. 559 00:24:12,886 --> 00:24:15,671 Všetky najvýkonnejšie modely ukázať tieto správanie. 560 00:24:15,715 --> 00:24:18,369 ♪ ♪ 561 00:24:23,766 --> 00:24:25,246 - Hej. -DANIEL: Ahoj. ako sa máš? 562 00:24:25,289 --> 00:24:26,813 [smiech] Dobre. Je dobré byť tu. 563 00:24:26,856 --> 00:24:28,684 ANDERSON COOPER: Keď Yuval Noah Harari 564 00:24:28,728 --> 00:24:31,426 vydal svoju prvú knihu Sapiens v roku 2014, 565 00:24:31,470 --> 00:24:33,820 sa stal svetovým bestsellerom 566 00:24:33,863 --> 00:24:35,996 a zmenil málo známeho Izraelský profesor histórie 567 00:24:36,039 --> 00:24:37,998 do jedného z najpopulárnejších spisovateľov 568 00:24:38,041 --> 00:24:39,390 a mysliteľov na planéte. 569 00:24:39,434 --> 00:24:42,045 Najväčšie nebezpečenstvo s AI je 570 00:24:42,089 --> 00:24:43,960 presvedčenie že je neomylný, 571 00:24:44,004 --> 00:24:45,658 že sme konečne našli... 572 00:24:45,701 --> 00:24:49,400 „Dobre, bohovia boli spravodliví toto mytologické stvorenie. 573 00:24:49,444 --> 00:24:52,708 "Ľudia, nemôžeme im veriť, ale AI je neomylná. 574 00:24:52,752 --> 00:24:55,189 To sa nikdy nepodarí akékoľvek chyby." 575 00:24:55,232 --> 00:24:58,322 A toto je smrteľná, smrteľná hrozba. 576 00:24:58,366 --> 00:25:00,107 Bude robiť chyby. 577 00:25:00,150 --> 00:25:03,284 A všetky tieto fantázie že AI odhalí pravdu 578 00:25:03,327 --> 00:25:05,634 o tom svete nevieme nájsť sami, 579 00:25:05,678 --> 00:25:08,724 AI neprezradí pravdu o svete. 580 00:25:08,768 --> 00:25:12,685 AI vytvorí úplne nový svet, oveľa komplikovanejší 581 00:25:12,728 --> 00:25:15,296 a ťažko pochopiteľné než tento. 582 00:25:17,994 --> 00:25:22,651 Čo sa má stať, je to my, uh, ľudia už nie sme 583 00:25:22,695 --> 00:25:26,263 bude najviac inteligentné entity na Zemi. 584 00:25:26,307 --> 00:25:28,570 Tak rozmýšľam, čo príde bude 585 00:25:28,614 --> 00:25:32,661 jedno z najväčších podujatí v histórii ľudstva. 586 00:25:32,705 --> 00:25:34,358 JAKE TAPPER: Geoffrey, ďakujeme, že ste sa k nám pridali. 587 00:25:34,402 --> 00:25:35,925 Takže si odišiel z práce s Google čiastočne preto, že hovoríte 588 00:25:35,969 --> 00:25:38,798 chcete sa sústrediť výlučne o vašich obavách z AI. 589 00:25:38,841 --> 00:25:41,627 Prehovorili ste, hovorí, že AI môže manipulovať 590 00:25:41,670 --> 00:25:44,978 alebo možno zistiť spôsob, ako zabiť ľudí. 591 00:25:45,021 --> 00:25:47,023 H-Ako to mohlo zabiť ľudí? 592 00:25:48,764 --> 00:25:50,940 No ak to tak bude oveľa múdrejší ako my, 593 00:25:50,984 --> 00:25:52,551 bude to veľmi dobré pri manipulácii 594 00:25:52,594 --> 00:25:54,727 pretože bude mať naučili sa to od nás. 595 00:25:54,770 --> 00:25:57,947 A príde na spôsoby z manipulácie ľudí 596 00:25:57,991 --> 00:26:00,820 robiť čo chce. 597 00:26:00,863 --> 00:26:05,476 RASKIN: Bol tam otvorený list z Centra pre bezpečnosť AI. 598 00:26:05,520 --> 00:26:08,784 Sam Altman to podpísal. Demis to podpísal. 599 00:26:08,828 --> 00:26:12,048 Podpísali 22-slovné vyhlásenie 600 00:26:12,092 --> 00:26:15,312 že musíme vziať AI a hrozbou AI 601 00:26:15,356 --> 00:26:19,316 tak vážne ako globálna jadrová vojna. 602 00:26:24,844 --> 00:26:26,933 -DANIEL: Dobrý deň. -Dobrý deň. 603 00:26:30,327 --> 00:26:32,895 Si niečo ako, pôvodný doom chlap. 604 00:26:32,939 --> 00:26:34,897 Viac-menej. 605 00:26:34,941 --> 00:26:37,421 Od roku 2001 Pracoval som na 606 00:26:37,465 --> 00:26:38,945 čo by sme teraz nazvali problém 607 00:26:38,988 --> 00:26:41,991 zarovnania umelých všeobecná inteligencia. 608 00:26:42,035 --> 00:26:44,080 Ako tvarovať preferencie a správanie 609 00:26:44,124 --> 00:26:46,343 silnej umelej mysle 610 00:26:46,387 --> 00:26:48,868 taký, že nie zabiť všetkých. 611 00:26:51,610 --> 00:26:53,568 To nie je ako stroj bez života. 612 00:26:53,612 --> 00:26:55,309 Je šikovný, kreatívny, 613 00:26:55,352 --> 00:26:57,311 je vynaliezavý, má vlastnosti 614 00:26:57,354 --> 00:26:59,356 to robí nebezpečný ľudský druh, 615 00:26:59,400 --> 00:27:01,663 a má viac takých vlastností. 616 00:27:01,707 --> 00:27:04,710 Ak niečo nie aktívne sa o teba starať, 617 00:27:04,753 --> 00:27:06,189 aktívne chcem, aby si žil, 618 00:27:06,233 --> 00:27:07,800 aktívne starať tvoje blaho, 619 00:27:07,843 --> 00:27:09,889 o tom, že si šťastný a živý a slobodný, 620 00:27:09,932 --> 00:27:12,456 ak na tom záleží namiesto toho iné veci, 621 00:27:12,500 --> 00:27:14,415 a si na tej istej planéte, 622 00:27:14,458 --> 00:27:18,724 to sa nedá prežiť, ak áno oveľa múdrejší ako ty. 623 00:27:18,767 --> 00:27:20,551 LEAHY: Nemyslím si, že to bude 624 00:27:20,595 --> 00:27:22,902 niečo ako zlá vec. 625 00:27:22,945 --> 00:27:26,296 Je to ako: „Ach, AI sú zlo a nenávidia ľudstvo." 626 00:27:26,340 --> 00:27:27,689 nemyslím si to sa stane. 627 00:27:27,733 --> 00:27:28,995 Myslím, že to, čo sa deje, je 628 00:27:29,038 --> 00:27:30,997 oveľa viac ako sa ľudia cítia o mravcoch. 629 00:27:31,040 --> 00:27:32,476 [štekanie mravcov] 630 00:27:32,520 --> 00:27:35,436 Ako, neznášame mravce, 631 00:27:35,479 --> 00:27:37,133 ale ak chceme postaviť diaľnicu 632 00:27:37,177 --> 00:27:40,180 a je tam mravenisko, no, naštve mravcov. 633 00:27:40,223 --> 00:27:41,529 Nie je to také ťažké pochopiť. 634 00:27:41,572 --> 00:27:43,226 Je to ako, hej, ak staviame veci 635 00:27:43,270 --> 00:27:44,663 ktorí sú múdrejší ako my 636 00:27:44,706 --> 00:27:46,229 a nevieme ako ich ovládať, 637 00:27:46,273 --> 00:27:48,275 zdá sa to tak riskantná vec pre teba? 638 00:27:48,318 --> 00:27:49,363 [dramatická soundtracková hudba hrá] 639 00:27:49,406 --> 00:27:50,843 [škrípanie] 640 00:27:50,886 --> 00:27:52,279 Áno. Áno, áno. 641 00:27:52,322 --> 00:27:54,020 Nemusíte byť technik. 642 00:27:54,063 --> 00:27:55,369 Nemusíš to vedieť programovanie, aby ste to pochopili. 643 00:27:55,412 --> 00:27:56,718 Nie je to také ťažké. 644 00:27:56,762 --> 00:27:58,111 Toto nie je ťažká vec pochopiť. 645 00:27:58,154 --> 00:28:00,591 Connor, koľko-koľko ľudí 646 00:28:00,635 --> 00:28:02,637 vo svete práve teraz pracujete na AGI? 647 00:28:02,681 --> 00:28:05,466 Aspoň 20 000, povedal by som. 648 00:28:05,509 --> 00:28:07,729 -20 000? -To by som očakával. 649 00:28:07,773 --> 00:28:09,426 Dobre, a koľko ľudí pracujú na plný úväzok 650 00:28:09,470 --> 00:28:12,038 aby to neurobila AI, ako nás všetkých zabiť? 651 00:28:12,081 --> 00:28:14,562 Pravdepodobne menej ako 200 vo svete. 652 00:28:16,085 --> 00:28:17,913 DANIEL: A to je vaša domýšľavosť 653 00:28:17,957 --> 00:28:24,528 jediný prirodzený výsledok z tejto nerozvážnosti... 654 00:28:25,704 --> 00:28:28,924 ...je kolaps ľudstva? 655 00:28:28,968 --> 00:28:33,189 No, nie kolaps, náhle vyhladenie. 656 00:28:33,233 --> 00:28:35,888 Je v tom rozdiel. 657 00:28:35,931 --> 00:28:37,716 ["Čo to znamená?" od hry Nun-Plus] 658 00:28:37,759 --> 00:28:42,590 ♪ Aký je zmysel života? ♪ 659 00:28:42,633 --> 00:28:46,594 ♪ Aká je budúcnosť a čo je teraz? ♪ 660 00:28:46,637 --> 00:28:49,945 ♪ Aká je odpoveď hádať sa? ♪ 661 00:28:49,989 --> 00:28:52,818 ♪ Koľko ♪ 662 00:28:52,861 --> 00:28:54,950 ♪ Môže niekto snívať? ♪ 663 00:28:54,994 --> 00:28:57,474 ♪ Ako dlho? ♪ 664 00:28:57,518 --> 00:28:58,954 ♪ Navždy ♪ 665 00:29:00,216 --> 00:29:01,870 ♪ Aký je význam ♪ 666 00:29:01,914 --> 00:29:04,133 -♪ Zo mňa... ♪ -[hučajúca siréna civilnej obrany] 667 00:29:04,177 --> 00:29:06,266 LADISH: Myslím toto je asi ako, 668 00:29:06,309 --> 00:29:07,963 najväčšia výzva že ako, 669 00:29:08,007 --> 00:29:11,271 našej civilizácie bude-vôľa čeliť, vždy. 670 00:29:11,314 --> 00:29:14,361 Toto je v podstate posledné chybu, ktorú niekedy urobíme. 671 00:29:16,276 --> 00:29:22,325 Ak sa dokážeme povzniesť, aby sme boli najviac zrelá verzia nás samých, 672 00:29:22,369 --> 00:29:24,414 tam môže byť cestu cez toto. 673 00:29:24,458 --> 00:29:25,764 DANIEL: čo to znamená? 674 00:29:25,807 --> 00:29:27,809 „Najvyzretejšia verzia od nás samých“? 675 00:29:29,332 --> 00:29:32,205 Lebo to znie, pre mňa ako... 676 00:29:32,248 --> 00:29:34,250 Ja-ja-- Čo to [pípnutie]? 677 00:29:36,731 --> 00:29:39,168 [Daniel si povzdychne] 678 00:29:39,212 --> 00:29:43,216 Myslíte si, že teraz je dobrý čas mať dieťa? 679 00:29:48,221 --> 00:29:49,396 hm... 680 00:29:49,439 --> 00:29:51,398 Chcete mať deti? jedného dňa? 681 00:29:51,441 --> 00:29:53,400 Je to niečo, čo-to baví ťa to alebo nie? 682 00:29:53,443 --> 00:29:57,796 Hm... priznám sa, Myslím, že je to tak, 683 00:29:57,839 --> 00:29:59,972 [smiech]: „Chlapče, poďme cez toto kritické obdobie." 684 00:30:00,015 --> 00:30:01,234 hm... 685 00:30:01,277 --> 00:30:02,496 DANIEL: mas deti? 686 00:30:02,539 --> 00:30:03,758 ja nie. 687 00:30:03,802 --> 00:30:05,064 Je to niečo? chceš robiť? 688 00:30:05,107 --> 00:30:07,196 Mať deti, mať rodinu? 689 00:30:07,240 --> 00:30:11,244 V nejakom inom svete ako je tento svet, určite by som mal deti. 690 00:30:12,593 --> 00:30:14,421 DANIEL: Chceli by ste založiť si rodinu? 691 00:30:14,464 --> 00:30:16,379 Chceli by ste mať deti? 692 00:30:16,423 --> 00:30:18,425 Je to niečo? premýšľaš o? 693 00:30:23,734 --> 00:30:25,780 Ja, ehm... 694 00:30:28,087 --> 00:30:30,219 ♪ ♪ 695 00:30:30,263 --> 00:30:32,482 CAROLINE: Len to musím najprv nájsť. 696 00:30:32,526 --> 00:30:34,702 [pulzujúci srdcový tep plodu] 697 00:30:34,745 --> 00:30:37,748 Musíme ísť k lekárovi, ale... 698 00:30:37,792 --> 00:30:41,143 Ach! Vedel som to! Vedel som to! Vedel som to! 699 00:30:41,187 --> 00:30:43,842 -Kedy si sa to dozvedel? -CAROLINE: Včera večer. 700 00:30:43,885 --> 00:30:45,931 -Och, môj bože! -Mami, ja neviem. 701 00:30:45,974 --> 00:30:47,280 RUTHIE: To ti neviem povedať 702 00:30:47,323 --> 00:30:49,195 -aký som šťastný! -CAROLINE: Nie, vážne. 703 00:30:49,238 --> 00:30:51,588 No urobila som si tehotenský test včera večer a som tehotná. 704 00:30:51,632 --> 00:30:53,155 ŽENA: Bože môj! 705 00:30:53,199 --> 00:30:55,114 Oh, môj bože, vy chlapci! 706 00:30:55,157 --> 00:30:57,290 SESTRA: Len som to chcela potvrdiť váš predpokladaný dátum splatnosti, 707 00:30:57,333 --> 00:30:59,945 - čo je 21. januára. [smiech]: Oh, môj Bože. 708 00:30:59,988 --> 00:31:02,512 Nemôžem uveriť, aký som šťastný. 709 00:31:02,556 --> 00:31:03,905 [pulzujúci srdcový tep plodu] 710 00:31:03,949 --> 00:31:05,472 CAROLINE: Už teraz vyzerá naozaj roztomilo. 711 00:31:05,515 --> 00:31:07,126 DANIEL: Myslíš už vyzerá roztomilo? 712 00:31:07,169 --> 00:31:08,518 CAROLINE: Áno. Pozrite sa na tú malú roztomilú tvár. 713 00:31:10,564 --> 00:31:12,609 [zmiznutie tepu plodu] 714 00:31:13,959 --> 00:31:15,525 DANIEL: Mám toto dieťa na ceste. 715 00:31:15,569 --> 00:31:16,787 TRISTAN HARRIS: Správne. 716 00:31:16,831 --> 00:31:18,746 DANIEL: Tak to obraciam na teba. 717 00:31:18,789 --> 00:31:21,227 Sme odsúdení na zánik? 718 00:31:21,270 --> 00:31:23,969 Budeme všetci čeliť tento techno dystopik 719 00:31:24,012 --> 00:31:25,884 budúcnosť záhuby? 720 00:31:28,756 --> 00:31:31,019 Je to, uh... 721 00:31:31,063 --> 00:31:32,586 [smiech]: Nie sú to dobré správy, 722 00:31:32,629 --> 00:31:35,154 sveta do ktorej smerujeme. 723 00:31:35,197 --> 00:31:36,982 ja-- pre ex-- Teda, budem len úprimný. 724 00:31:37,025 --> 00:31:39,549 Uh, poznám ľudí ktorí pracujú na riziku AI 725 00:31:39,593 --> 00:31:42,248 ktorí nečakajú svoje deti aby sa dostal na strednú školu. 726 00:31:43,249 --> 00:31:45,251 ♪ ♪ 727 00:31:52,127 --> 00:31:53,346 [klepanie svetiel] 728 00:31:58,003 --> 00:32:01,528 DANIEL: Toto je ako... toto je fakt strasne 729 00:32:01,571 --> 00:32:03,051 lebo je to ako, oh, všetci sme [pípanie]. 730 00:32:03,095 --> 00:32:04,923 CAROLINE: Musíš ma upokojiť, 731 00:32:04,966 --> 00:32:06,794 pretože toto ma robí neuveriteľne úzkostný 732 00:32:06,837 --> 00:32:08,622 a nosím dieťa práve teraz, 733 00:32:08,665 --> 00:32:11,625 takže aj ty musíš byť pokojný pre mňa a silný a nádejný, 734 00:32:11,668 --> 00:32:16,412 pretože ja som... to je tiež, to je príliš veľa na to, aby to moja duša zniesla 735 00:32:16,456 --> 00:32:19,285 keď nosím toto dieťa. 736 00:32:19,328 --> 00:32:21,243 Takže budete musieť vyskúšať prísť na to 737 00:32:21,287 --> 00:32:24,159 spôsob, ako mať nádej. 738 00:32:24,203 --> 00:32:27,771 Je to naozaj dôležité, Daniel, hlavne teraz. 739 00:32:28,772 --> 00:32:30,557 H-Ako mať nádej. 740 00:32:30,600 --> 00:32:33,342 musíš. Musíš mi to nájsť. 741 00:32:33,386 --> 00:32:34,909 myslím to vážne. 742 00:32:34,953 --> 00:32:36,606 idem na to. 743 00:32:37,825 --> 00:32:40,349 budem. Pokúsim sa... Pokúsim sa. 744 00:32:46,399 --> 00:32:47,617 [klepanie svetiel] 745 00:32:49,619 --> 00:32:51,404 DANIEL: Hej, chlapi? 746 00:32:51,447 --> 00:32:52,840 Chlapi. 747 00:32:54,363 --> 00:32:56,278 Môžeme sa vrátiť späť do prevádzky? 748 00:32:58,411 --> 00:33:01,022 Oy gevalt! [vzdychne] 749 00:33:03,894 --> 00:33:05,331 TED: Uh, Dan, si pripravený? 750 00:33:05,374 --> 00:33:06,680 PETER DIAMANDIS: Dobrý deň, Daniel. 751 00:33:07,724 --> 00:33:09,465 DANIEL: Ahoj, ako sa máš? 752 00:33:09,509 --> 00:33:11,032 DIAMANDIS: Som... mám sa dobre. 753 00:33:11,076 --> 00:33:13,948 Myslím, uh... Myslím Potrebujem pomoc, Peter. 754 00:33:15,254 --> 00:33:17,604 Hm, pracoval som o tomto filme asi 755 00:33:17,647 --> 00:33:19,823 poviem, už osem až desať mesiacov. 756 00:33:19,867 --> 00:33:23,262 Bolo to veľmi, občas deprimujúce. 757 00:33:23,305 --> 00:33:25,612 -Hmm. - Cítil som sa veľmi odcudzený 758 00:33:25,655 --> 00:33:27,744 -mak robiť tento film. -Od koho? 759 00:33:27,788 --> 00:33:30,051 Tým všetkým,... všetci títo chlapi 760 00:33:30,095 --> 00:33:33,228 ktorí sedia okolo a hovoria mi že bude koniec sveta. 761 00:33:33,272 --> 00:33:34,708 -Ach. -To akože, 762 00:33:34,751 --> 00:33:36,536 y-vieš, th-toto doom bullshit, vieš? 763 00:33:36,579 --> 00:33:38,059 dobre to poznam. 764 00:33:38,103 --> 00:33:39,408 „Všetci sme odsúdení na zánik. Všetci zomrú. 765 00:33:39,452 --> 00:33:40,931 Všetko je hrozné." 766 00:33:40,975 --> 00:33:43,151 úžasné. Uh, nechaj ma priniesť ti trochu svetla. 767 00:33:43,195 --> 00:33:44,718 Prosím. 768 00:33:44,761 --> 00:33:48,156 Naozaj žijeme v mimoriadnom čase. 769 00:33:49,418 --> 00:33:51,333 A veľa ľudí na to zabúda. 770 00:33:51,377 --> 00:33:53,640 Všetko okolo nás je produkt inteligencie, 771 00:33:53,683 --> 00:33:57,035 a teda všetko, čoho sa dotkneme s týmito novými nástrojmi je pravdepodobné 772 00:33:57,078 --> 00:33:59,646 produkovať oveľa väčšiu hodnotu než sme kedy predtým videli. 773 00:33:59,689 --> 00:34:02,823 AI nám môže pomôcť objaviť nové materiály. 774 00:34:02,866 --> 00:34:04,999 AI môže pomôcť sociálnym vedcom 775 00:34:05,043 --> 00:34:07,349 pochopiť ako funguje ekonomika. 776 00:34:07,393 --> 00:34:11,658 AI dokáže veľa aby bol život a práca lepšia. 777 00:34:11,701 --> 00:34:14,095 Dnes cítim väčšiu silu, 778 00:34:14,139 --> 00:34:16,315 sebavedomejší dnes sa niečo naučiť. 779 00:34:16,358 --> 00:34:19,057 Stanú sa z nás nadľudia pretože máme super AI. 780 00:34:19,100 --> 00:34:21,798 Toto je len začiatok výbuchu. 781 00:34:21,842 --> 00:34:24,453 Ľudia a AI spolupracujú 782 00:34:24,497 --> 00:34:26,455 riešiť skutočne dôležité problémy. 783 00:34:26,499 --> 00:34:29,763 Je tu, aby nás oslobodil z bežných prác, 784 00:34:29,806 --> 00:34:33,723 a je tu, aby nám to pripomenul čo z nás robí ľudí. 785 00:34:33,767 --> 00:34:35,769 Myslím, že toto je 786 00:34:35,812 --> 00:34:38,598 najvýnimočnejší čas byť nažive. 787 00:34:38,641 --> 00:34:42,036 Jediný raz vzrušujúcejšie ako dnes je zajtra. 788 00:34:42,080 --> 00:34:45,257 Uh, myslím si to dnes narodené deti, 789 00:34:45,300 --> 00:34:47,259 chystajú sa vstúpiť 790 00:34:47,302 --> 00:34:50,827 slávne obdobie ľudskej transformácie. 791 00:34:50,871 --> 00:34:52,525 Budeme mať výzvy? Samozrejme. 792 00:34:52,568 --> 00:34:55,180 Dokážeme vyriešiť tieto výzvy? Robíme zakaždým. 793 00:34:55,223 --> 00:34:57,704 sme tu, čo je zázračné. 794 00:34:57,747 --> 00:35:00,272 -Už ťa milujem. [smiech]: Dobre. 795 00:35:00,315 --> 00:35:01,925 -Super vďačný mať ťa tu. [potlesk] 796 00:35:01,969 --> 00:35:03,362 -Super nadšený, že som tu. -Áno. 797 00:35:03,405 --> 00:35:04,885 Takže podlaha je vaša, pane. 798 00:35:04,928 --> 00:35:07,409 dakujem pekne. Super nadšený, že som tu. 799 00:35:07,453 --> 00:35:10,586 GUILLAUME VERDON: Áno, áno. V poriadku. 800 00:35:10,630 --> 00:35:12,284 Budúcnosť bude úžasná. 801 00:35:12,327 --> 00:35:14,286 Teda, odkedy som bol dieťa, 802 00:35:14,329 --> 00:35:17,332 Chcel som pochopiť vesmír, v ktorom žijeme, 803 00:35:17,376 --> 00:35:20,422 aby som zistil ako vytvoriť technológie 804 00:35:20,466 --> 00:35:23,991 ktoré nám pomáhajú zväčšiť rozsah a rozsah civilizácie. 805 00:35:24,034 --> 00:35:26,689 Cítim sa ako keby mal každý taký názor, 806 00:35:26,733 --> 00:35:29,214 potom by sme vlastne žili v lepšom svete, však? 807 00:35:29,257 --> 00:35:30,519 Ja tomu verím. 808 00:35:32,782 --> 00:35:34,697 -DANIEL: Ahoj, Pete. ako sa máš? -[smiech] 809 00:35:34,741 --> 00:35:36,525 PETER LEE: Veľa som o tom premýšľal 810 00:35:36,569 --> 00:35:39,049 čo by som nazval hrôzou, AI strach. 811 00:35:39,093 --> 00:35:40,703 cítim to. 812 00:35:40,747 --> 00:35:43,271 Nestretol som sa každý premýšľavý človek 813 00:35:43,315 --> 00:35:45,143 kto to necíti. 814 00:35:45,186 --> 00:35:48,276 A každý, kto tvrdí, že nie cítiť to, viete, klame. 815 00:35:48,320 --> 00:35:50,104 Ale viete, celkovo a dôvod 816 00:35:50,148 --> 00:35:53,716 že ja osobne som optimista o tomto, uh, je to 817 00:35:53,760 --> 00:35:56,545 obrovský zlomok sveta najinteligentnejších ľudí 818 00:35:56,589 --> 00:35:58,417 veľmi premýšľajú 819 00:35:58,460 --> 00:36:02,116 o potenciáli po prúde škody a riziká AI. 820 00:36:02,160 --> 00:36:05,641 Máme takúto víziu bezpečnosti bytia, uh, 821 00:36:05,685 --> 00:36:08,253 akosi v strede výskumu, ktorý robíme. 822 00:36:08,296 --> 00:36:09,558 DANIELA AMODEI: Nie, to je úplne v poriadku. 823 00:36:09,602 --> 00:36:10,820 [nezreteľné bľabotanie] 824 00:36:10,864 --> 00:36:13,562 Myslím, že ich je viac 825 00:36:13,606 --> 00:36:17,436 potenciálne výhody ako existujú potenciálne nevýhody, 826 00:36:17,479 --> 00:36:19,481 a myslím si, že je to povinnosť 827 00:36:19,525 --> 00:36:21,831 ľudia, ktorí sú vytvorenie tejto technológie 828 00:36:21,875 --> 00:36:24,530 aby sme sa uistili, že to robíme najlepšia práca akú môžeme 829 00:36:24,573 --> 00:36:25,835 aby to bolo pre ľudí bezpečné. 830 00:36:25,879 --> 00:36:27,402 ŽENA: Reid Hoffman. 831 00:36:27,446 --> 00:36:28,969 REID HOFFMAN: Čo vám môžem zaručiť, je 832 00:36:29,012 --> 00:36:30,536 - stanú sa zlé veci. - Vezmite si jeden. 833 00:36:30,579 --> 00:36:32,668 Čo sa pokúsime urobiť je robiť tie zlé veci 834 00:36:32,712 --> 00:36:36,150 čo najmenej a nie veľké, 835 00:36:36,194 --> 00:36:38,370 a potom to zopakujeme mať-- 836 00:36:38,413 --> 00:36:40,633 byť na oveľa lepšom mieste so spoločnosťou. 837 00:36:40,676 --> 00:36:43,679 -Dobrý deň. -SHAW WALTERS: Dobrý deň. 838 00:36:43,723 --> 00:36:45,246 DANIEL: Ako sa máš, Moon? 839 00:36:45,290 --> 00:36:48,989 Mám pocit, že končíme kapitola v ľudskosti 840 00:36:49,032 --> 00:36:50,512 a začať nový, 841 00:36:50,556 --> 00:36:53,211 a je to veľmi zaujímavé čas byť nažive. 842 00:36:53,254 --> 00:36:54,429 A keby som sa mohol narodiť práve teraz, 843 00:36:54,473 --> 00:36:55,865 Určite by som chcel byť. 844 00:36:55,909 --> 00:36:57,476 To by bolo také vzrušujúce. 845 00:36:57,519 --> 00:37:00,305 Veľmi sa teším. [smiech] 846 00:37:00,348 --> 00:37:02,481 Čo, aká budúcnosť. Vzrušuje vás... vzrušuje? 847 00:37:02,524 --> 00:37:03,699 Nie 848 00:37:03,743 --> 00:37:06,528 [smiech] -Nie, naozaj nie. 849 00:37:06,572 --> 00:37:08,313 DANIEL: Veľa z týchto ľudí povedali mi to, vieš, 850 00:37:08,356 --> 00:37:10,445 moje dieťa to nezvládne na strednú školu. 851 00:37:10,489 --> 00:37:13,318 Prečo sa mýlia? Vysvetlite mi to prosím. 852 00:37:13,361 --> 00:37:15,058 Len preto, že máš... 853 00:37:15,102 --> 00:37:18,845 snažíte sa predpovedať budúcnosť vo vlastnej mysli 854 00:37:18,888 --> 00:37:23,023 neznamená, že je nevyhnutne to dopadne hrozne. 855 00:37:23,066 --> 00:37:26,592 V skutočnosti existuje veľmi vysoká pravdepodobnosť 856 00:37:26,635 --> 00:37:28,289 a historický precedens je to? 857 00:37:28,333 --> 00:37:30,117 veci sa výrazne zlepšujú. 858 00:37:30,160 --> 00:37:34,469 Termín, ktorý používam, je „optimizmus založený na údajoch“. 859 00:37:34,513 --> 00:37:38,647 Je tam pevný základ aby si bol optimista. 860 00:37:38,691 --> 00:37:41,998 Pozrite sa na čo toto minulé storočie bolo 861 00:37:42,042 --> 00:37:44,087 aby sme videli, kam ideme. 862 00:37:44,131 --> 00:37:45,915 Za posledných sto rokov, 863 00:37:45,959 --> 00:37:48,701 priemerná dĺžka ľudského života sa viac ako zdvojnásobil. 864 00:37:48,744 --> 00:37:51,269 Priemerný príjem na obyvateľa upravená o infláciu 865 00:37:51,312 --> 00:37:53,619 na celom svete sa strojnásobil. 866 00:37:53,662 --> 00:37:57,057 Detská úmrtnosť má klesnúť o faktor desať. 867 00:37:57,100 --> 00:37:59,712 Svet sa zlepšil takmer pri každom opatrení 868 00:37:59,755 --> 00:38:03,019 rádovo kvôli technológii. 869 00:38:03,063 --> 00:38:05,152 Takmer na každom opatrení. 870 00:38:05,195 --> 00:38:09,722 Menej násilia, viac vzdelania, prístup k energii, jedlu, vode. 871 00:38:09,765 --> 00:38:12,942 Všetky tieto veci sa stali z jedného dôvodu. 872 00:38:12,986 --> 00:38:15,336 Bola to technológia 873 00:38:15,380 --> 00:38:17,556 to sa zmenilo na nedostatok do hojnosti, 874 00:38:17,599 --> 00:38:19,514 ale je to aj jazdene k hojnosti 875 00:38:19,558 --> 00:38:21,864 nejaké negatíva, však? 876 00:38:21,908 --> 00:38:25,738 Hojnosť obezity, množstvo duševných porúch, 877 00:38:25,781 --> 00:38:29,437 množstvo klimatických zmien, a tak ďalej. 878 00:38:29,481 --> 00:38:31,309 A áno, je to pravda. 879 00:38:31,352 --> 00:38:34,094 Ale asi budeme lepšie vybavené na jeho riešenie 880 00:38:34,137 --> 00:38:36,226 pomocou iných technológií, ako AI, 881 00:38:36,270 --> 00:38:39,273 než sa, povedzme, zastavíme a všetko vypnúť. 882 00:38:39,317 --> 00:38:41,449 Môže existovať nejaké existenčné riziko, 883 00:38:41,493 --> 00:38:45,323 ale dôležitá je aj AI ktoré môžu vyriešiť pandémie, 884 00:38:45,366 --> 00:38:47,455 nám môže pomôcť so zmenou klímy, 885 00:38:47,499 --> 00:38:50,545 môže pomôcť identifikovať ten asteroid tam vonku 886 00:38:50,589 --> 00:38:52,547 než sme to videli ako potenciálne riziko 887 00:38:52,591 --> 00:38:54,332 a pomôcť ho zmierniť. 888 00:38:54,375 --> 00:38:58,074 Toto naozaj bude nástroj, ktorý nám pomáha riešiť 889 00:38:58,118 --> 00:39:01,426 všetky výzvy, ktorými sme čeliť ako druh, však? 890 00:39:01,469 --> 00:39:04,167 Potrebujeme opraviť odsoľovanie vody. 891 00:39:04,211 --> 00:39:05,995 Potrebujeme pestovať potraviny 892 00:39:06,039 --> 00:39:08,433 100x lacnejšie ako v súčasnosti robíme. 893 00:39:08,476 --> 00:39:12,350 Potrebujeme obnoviteľnú energiu, viete, všadeprítomné 894 00:39:12,393 --> 00:39:14,047 a všade v našom živote. 895 00:39:14,090 --> 00:39:17,137 Kamkoľvek sa pozrieš, v nasledujúcich 50 rokoch, 896 00:39:17,180 --> 00:39:19,269 musíme urobiť viac s menej. 897 00:39:19,313 --> 00:39:23,186 Tréningové stroje, ktoré nám pomôžu je absolútne nevyhnutné. 898 00:39:23,230 --> 00:39:24,797 Vedci používajú umelá inteligencia 899 00:39:24,840 --> 00:39:25,972 na zachytávanie uhlíka. 900 00:39:26,015 --> 00:39:27,582 Je to kritická technológia. 901 00:39:27,626 --> 00:39:29,541 DIAMANDIS: Nástroje vyriešiť tieto problémy, 902 00:39:29,584 --> 00:39:32,195 ako fúzia, to už nie je teoretické, 903 00:39:32,239 --> 00:39:33,980 už to prichádza. 904 00:39:34,023 --> 00:39:37,723 Sme na priepasti mimoriadnych technológií. 905 00:39:37,766 --> 00:39:39,986 AMNA NAWAZ: Tohtoročná Nobelova cena za chémiu 906 00:39:40,029 --> 00:39:42,815 išiel k trom vedcom za ich prelomovú prácu 907 00:39:42,858 --> 00:39:44,556 pomocou umelej inteligencie 908 00:39:44,599 --> 00:39:47,297 napredovať v biomedicíne a výskum bielkovín. 909 00:39:47,341 --> 00:39:49,691 DEMIS HASSABIS: Skladanie bielkovín je 910 00:39:49,735 --> 00:39:53,608 jeden z týchto svätých grálov typové problémy v biológii. 911 00:39:53,652 --> 00:39:55,741 Ľudia teda predpovedali od 70-tych rokov 912 00:39:55,784 --> 00:39:58,091 že by to malo byť možné, ale doteraz, 913 00:39:58,134 --> 00:39:59,571 nikomu sa to nepodarilo. 914 00:39:59,614 --> 00:40:01,181 A bude skutočne dôležité pre veci 915 00:40:01,224 --> 00:40:03,618 ako objavovanie drog a pochopenie choroby. 916 00:40:03,662 --> 00:40:06,534 Myslím, že by sme mohli, vieš, liečiť väčšinu chorôb 917 00:40:06,578 --> 00:40:11,931 v priebehu nasledujúceho desaťročia alebo dvoch ak, uh, návrh liekov AI funguje. 918 00:40:11,974 --> 00:40:15,630 Technologický pokrok umožňuje viac ľudských životov, nie? 919 00:40:15,674 --> 00:40:18,677 Teda, ak zrýchlime, 920 00:40:18,720 --> 00:40:21,723 počet ľudí, ktorých môžeme podpora rastie exponenciálne. 921 00:40:21,767 --> 00:40:24,073 Ak spomalíme, bude to plató. 922 00:40:24,117 --> 00:40:27,729 Tá medzera je efektívna budúcich ľudí 923 00:40:27,773 --> 00:40:31,341 že spomalenie má účinne zabil. 924 00:40:31,385 --> 00:40:33,909 DANIEL: Milióny životov ktorá nebude existovať. 925 00:40:33,953 --> 00:40:35,128 miliardy. 926 00:40:35,171 --> 00:40:36,782 Alebo desiatky miliárd. 927 00:40:36,825 --> 00:40:38,436 Vieš, niekto povedal, "Ó, môj Bože, 928 00:40:38,479 --> 00:40:40,655 môžeme prežiť s digitálna superinteligencia?" 929 00:40:40,699 --> 00:40:42,309 A moja otázka znie: 930 00:40:42,352 --> 00:40:44,180 Dokážeme prežiť bez digitálna superinteligencia? 931 00:40:44,224 --> 00:40:47,575 Takže používame AI ako asistent poskytovateľov. 932 00:40:47,619 --> 00:40:50,448 Toto je všeobecne trend, ktorý už vidíme, že sa to deje. 933 00:40:50,491 --> 00:40:52,319 BERTHA COOMBS: ...spútanie generatívne programy AI 934 00:40:52,362 --> 00:40:54,060 pomáhať lekárom a sestrám... 935 00:40:54,103 --> 00:40:56,062 Vždy máme problémy. 936 00:40:56,105 --> 00:40:59,108 A tieto problémy sú jedlo pre podnikateľov 937 00:40:59,152 --> 00:41:01,154 vytvoriť nové podnikanie a nové odvetvia. 938 00:41:01,197 --> 00:41:03,069 SHANELLE KAUL: ...s pomocou umelej inteligencie, 939 00:41:03,112 --> 00:41:04,766 poľnohospodári dostávajú pomoc, ktorú potrebujú 940 00:41:04,810 --> 00:41:06,594 vykonávať prácne úlohy... 941 00:41:06,638 --> 00:41:10,163 S pomocou Ulangizi AI, farmári sú teraz schopní 942 00:41:10,206 --> 00:41:12,948 požiadať o vhodné plodiny že môžu sadiť. 943 00:41:12,992 --> 00:41:14,950 WILL REEVE: ...používa sa AI ako dekodér myšlienok 944 00:41:14,994 --> 00:41:17,387 a odoslanie tohto signálu k chrbtici. 945 00:41:17,431 --> 00:41:21,609 AI sa stane najviac mimoriadny nástroj všetkých. 946 00:41:21,653 --> 00:41:24,264 My ako širšia spoločnosť treba sa zamyslieť 947 00:41:24,307 --> 00:41:27,049 ako chceme použiť táto technológia, však? 948 00:41:27,093 --> 00:41:28,529 My ľudia. 949 00:41:28,573 --> 00:41:31,097 Čo chceme, aby to pre nás urobilo? 950 00:41:31,140 --> 00:41:34,535 ♪ ♪ 951 00:41:34,579 --> 00:41:36,189 DANIEL: Premýšľam o tom cez perspektívu 952 00:41:36,232 --> 00:41:37,886 a objektív napr. môj syn vyrastal 953 00:41:37,930 --> 00:41:39,540 na svete s týmto všetkým. 954 00:41:39,584 --> 00:41:42,238 Čo robí najlepšia verzia ako vyzerá jeho život? 955 00:41:42,282 --> 00:41:44,589 Ak všetko vyjde. 956 00:41:44,632 --> 00:41:46,808 [ťažko si povzdychne] 957 00:41:46,852 --> 00:41:50,246 WALTERS: Miesto, kde sú deti asi uvidia 958 00:41:50,290 --> 00:41:52,684 najväčší vplyv na ich živote okamžite 959 00:41:52,727 --> 00:41:54,424 - asi bude škola. -[hovory detí] 960 00:41:54,468 --> 00:41:56,688 Myslím si, že príroda toho, čo je škola 961 00:41:56,731 --> 00:41:58,472 sa zásadne zmení. 962 00:41:58,516 --> 00:42:00,474 [dieťa sa smeje] 963 00:42:00,518 --> 00:42:02,737 DIAMANDIS: Vidím tento úžasný svet 964 00:42:02,781 --> 00:42:06,436 kam má prístup každé dieťa na nie dobré vzdelanie 965 00:42:06,480 --> 00:42:09,091 ale veľmi skoro najlepšie vzdelanie na planéte. 966 00:42:09,135 --> 00:42:13,879 HOFFMAN: Lektori, každý predmet, nekonečne trpezlivý. 967 00:42:18,013 --> 00:42:20,059 DIAMANDIS: Predstavte si budúcnosť 968 00:42:20,102 --> 00:42:22,235 kde sú najchudobnejší ľudia na planéte 969 00:42:22,278 --> 00:42:25,804 mať prístup k najlepšia zdravotná starostlivosť. 970 00:42:25,847 --> 00:42:29,547 Nie dobrá zdravotná starostlivosť, tá najlepšia zdravotná starostlivosť poskytovaná AI. 971 00:42:31,157 --> 00:42:32,767 [elektronický triling] 972 00:42:34,334 --> 00:42:38,556 Budeme môcť predĺžiť naše zdravie, 973 00:42:38,599 --> 00:42:42,168 nielen náš život, naše zdravie po desaťročiach. 974 00:42:44,431 --> 00:42:46,215 HOFFMAN: Práve sa chystáte mať dieťa. 975 00:42:46,259 --> 00:42:49,697 Ach, to dieťa ako, grganie nekontrolovateľne. 976 00:42:49,741 --> 00:42:52,047 Je to niečo? Mal by som sa obávať? 977 00:42:52,091 --> 00:42:54,223 Tam, 24-7, pre vás. 978 00:42:54,267 --> 00:42:57,183 A kam ideme... a pre niektorých to môže byť strach... 979 00:42:57,226 --> 00:42:59,228 je, že sa spojíme s AI. 980 00:42:59,272 --> 00:43:01,361 Spojíme sa s technológiou. 981 00:43:02,667 --> 00:43:06,105 Od začiatku do polovice 30. rokov 20. storočia 982 00:43:06,148 --> 00:43:10,457 očakávať, že to dokážeme prepojiť náš mozog s cloudom, 983 00:43:10,500 --> 00:43:13,721 kde môžem začať na rozšírenie prístupu k pamäti. 984 00:43:16,071 --> 00:43:18,030 [elektronický triling] 985 00:43:19,771 --> 00:43:22,077 DANIEL: Dobre, to je skvelé. Čo je ďalšia skvelá vec AI? 986 00:43:22,121 --> 00:43:23,775 Nebude musieť pracovať, však? 987 00:43:23,818 --> 00:43:25,167 -Ako keď vyrastie, možno nemal... [vzdychne] 988 00:43:25,211 --> 00:43:26,212 -...nebude musieť mať prácu. -Myslím... 989 00:43:26,255 --> 00:43:27,779 Nebude musieť mať prácu, 990 00:43:27,822 --> 00:43:30,608 ale mohol by naozaj mať silná vášeň, 991 00:43:30,651 --> 00:43:33,132 a on musí naozaj sa zamysli, 992 00:43:33,175 --> 00:43:36,091 „Dobre, som tu. So svojím životom môžem urobiť čokoľvek. 993 00:43:36,135 --> 00:43:37,876 Tak čo mám robiť?" 994 00:43:38,920 --> 00:43:40,182 Musíme nájsť zmysel, 995 00:43:40,226 --> 00:43:42,620 viac ako rád, túto súčasnú podobu 996 00:43:42,663 --> 00:43:45,666 žijeme pre prácu a pracovať pre život. 997 00:43:45,710 --> 00:43:49,844 DANIEL: Takže môj syn môže... môže byť len básnik. 998 00:43:49,888 --> 00:43:51,541 -Áno. -A maliar. 999 00:43:51,585 --> 00:43:53,021 Absolútne. 1000 00:43:53,065 --> 00:43:54,849 DANIEL: Takže môj syn môže žiť svoj život 1001 00:43:54,893 --> 00:43:57,591 na gréckom ostrove zaliatom slnkom, maľovať celý deň. 1002 00:43:57,635 --> 00:43:59,114 YU: Absolútne. možné. 1003 00:44:00,072 --> 00:44:01,203 Absolútne. 1004 00:44:01,247 --> 00:44:02,944 No pracujeme na tom 1005 00:44:02,988 --> 00:44:04,554 to je veľa práce než sa tam dostaneme. 1006 00:44:06,992 --> 00:44:08,776 VERDON: Teda, ak všetko klapne, 1007 00:44:08,820 --> 00:44:11,997 máme lacné, uh, hojnej energie. 1008 00:44:13,607 --> 00:44:17,219 Môžeme úplne ovládať podnebie našej planéty. 1009 00:44:17,263 --> 00:44:20,135 Využívame energiu od slnka. 1010 00:44:20,179 --> 00:44:24,400 Stali sme sa multiplanetárnymi, takže sa stávame veľmi robustnými. 1011 00:44:24,444 --> 00:44:26,664 Využívame minerály a zdrojov 1012 00:44:26,707 --> 00:44:28,404 zo slnečnej sústavy. 1013 00:44:28,448 --> 00:44:31,233 DANIEL: Takže môj... môj chlapec mohol ísť do vesmíru. 1014 00:44:31,277 --> 00:44:32,887 VERDON: Jasné. 1015 00:44:32,931 --> 00:44:34,715 -DANIEL: Mohol by ísť na Mars. -VERDON: Áno. 1016 00:44:34,759 --> 00:44:36,369 DANIEL: Teraz mi je to tak krištáľovo jasné. 1017 00:44:36,412 --> 00:44:39,198 Môj syn mohol vyrásť vo svete bez chorôb. 1018 00:44:39,241 --> 00:44:40,590 -VERDON: Áno. - Bez choroby. 1019 00:44:40,634 --> 00:44:41,896 -Jasné. - Bez chudoby. 1020 00:44:41,940 --> 00:44:43,681 -Áno. - Chystáme sa vstúpiť 1021 00:44:43,724 --> 00:44:46,640 post-nedostatkový svet. 1022 00:44:46,684 --> 00:44:50,470 Rovnako ako sa pľúcnik pohol z oceánov na pevninu 1023 00:44:50,513 --> 00:44:53,081 stovky miliónov pred rokmi, 1024 00:44:53,125 --> 00:44:57,999 chystáme sa odísť Zem, do vesmíru, 1025 00:44:58,043 --> 00:44:59,871 spôsobom spolupráce, 1026 00:44:59,914 --> 00:45:03,744 robiť veci, ktoré sú pre nás dnes nepochopiteľné. 1027 00:45:06,268 --> 00:45:09,184 To je to, čo je možné použiť tieto exponenciálne technológie 1028 00:45:09,228 --> 00:45:10,708 a tieto AI. 1029 00:45:11,839 --> 00:45:13,928 Využime tieto nástroje 1030 00:45:13,972 --> 00:45:16,104 vytvoriť tento vek hojnosti. 1031 00:45:16,148 --> 00:45:18,150 [elektronické klikanie] 1032 00:45:20,500 --> 00:45:22,937 Potrebujeme múdrosť. 1033 00:45:22,981 --> 00:45:25,984 Uh, myslím si to digitálna superinteligencia 1034 00:45:26,027 --> 00:45:28,726 sa nakoniec stane najmúdrejší, 1035 00:45:28,769 --> 00:45:34,253 viete, staršinovia dediny pre ľudstvo. 1036 00:45:34,296 --> 00:45:37,996 Čo ak to AI skúša aby ľudia boli 1037 00:45:38,039 --> 00:45:39,737 ich najlepšie verzie? 1038 00:45:39,780 --> 00:45:41,347 Čo ak sa to rozširuje 1039 00:45:41,390 --> 00:45:43,392 čo je v ľudských silách aby sme urobili? 1040 00:45:43,436 --> 00:45:46,656 Ako môžeme použiť túto technológiu 1041 00:45:46,700 --> 00:45:49,921 pomôcť vyniesť von lepší anjeli našej povahy? 1042 00:45:49,964 --> 00:45:51,661 Je to veľmi ľahké, 1043 00:45:51,705 --> 00:45:54,316 keď sa stretávame s novými vecami to môže byť veľmi cudzie, 1044 00:45:54,360 --> 00:45:55,927 mať najprv strach. 1045 00:45:55,970 --> 00:45:57,493 Strach je dôležitá vec 1046 00:45:57,537 --> 00:46:00,322 ako sa orientovať potenciálne zlé veci. 1047 00:46:00,366 --> 00:46:03,717 Ale robíme len pokroky keď máme nádej. 1048 00:46:03,761 --> 00:46:05,719 -[psí štekot] -[nezreteľné bľabotanie] 1049 00:46:05,763 --> 00:46:07,895 DANIEL: Pst. Los, prestaň. 1050 00:46:07,939 --> 00:46:10,811 HOFFMAN: Mám toho veľa nádeje v ľudstvo. 1051 00:46:10,855 --> 00:46:13,814 ["Harvest Moon" od Neila Younga hrať cez telefón] 1052 00:46:15,294 --> 00:46:17,296 [pulzujúci srdcový tep plodu] 1053 00:46:18,471 --> 00:46:19,951 DANIEL: Och, páči sa mu Neil. 1054 00:46:24,694 --> 00:46:27,480 ♪ Poď trochu bližšie♪ 1055 00:46:28,916 --> 00:46:32,790 ♪ Počúvaj, čo ti chcem povedať ♪ 1056 00:46:36,576 --> 00:46:38,665 -Daniel. -DANIEL: Čo, Caroline? 1057 00:46:38,708 --> 00:46:40,058 Toľko natáčania. 1058 00:46:41,537 --> 00:46:43,061 ♪ Rovnako ako deti spiace ♪ 1059 00:46:43,104 --> 00:46:44,889 CAROLINE: Bože môj. 1060 00:46:44,932 --> 00:46:46,368 DANIEL: To je všetko. 1061 00:46:46,412 --> 00:46:49,415 ♪ Mohli by sme snívať túto noc preč... ♪ 1062 00:46:49,458 --> 00:46:51,678 On má napr. malá okrúhla tvár. 1063 00:46:53,245 --> 00:46:55,203 DANIEL: Chceš mať jedného dňa deti, Rocky? 1064 00:46:55,247 --> 00:46:57,423 Absolútne. Áno. milujem deti. 1065 00:46:57,466 --> 00:46:59,033 Myslím, že je to skvelý čas mať dieťa. 1066 00:46:59,077 --> 00:47:00,730 Pravdepodobne budeme mať ďalšie dieťa v určitom okamihu. 1067 00:47:00,774 --> 00:47:03,733 Toto je najvýnimočnejšie čas kedy sa narodiť. 1068 00:47:03,777 --> 00:47:05,823 DANIEL: Podľa tvojho svetonázoru a logiky, 1069 00:47:05,866 --> 00:47:07,868 Mám dieťa v 1070 00:47:07,912 --> 00:47:09,478 najlepší možný bod v histórii ľudstva. 1071 00:47:09,522 --> 00:47:10,828 Do pekla áno. 1072 00:47:10,871 --> 00:47:13,308 - Môžeme sa sústrediť na úžasné. -Áno. 1073 00:47:13,352 --> 00:47:15,528 Poďme stavať tým lepšiu budúcnosť chceme. 1074 00:47:15,571 --> 00:47:18,313 Ten príbeh, že budúcnosť bude bezútešný je vymyslený. 1075 00:47:18,357 --> 00:47:20,011 Po rozhovore s vami tak nejako sa cítim. 1076 00:47:20,054 --> 00:47:21,969 -To je skvelé. -Správne? 1077 00:47:22,013 --> 00:47:24,189 Áno. Tak sa cítim. 1078 00:47:24,232 --> 00:47:25,799 A myslím, že je to lepšie, 1079 00:47:25,843 --> 00:47:27,627 a nemyslím si Mal by som byť taký úzkostlivý. 1080 00:47:27,670 --> 00:47:29,063 Myslím, že to bude úžasné... budúcnosť bude úžasná. 1081 00:47:29,107 --> 00:47:30,499 Urobíme to tak. 1082 00:47:30,543 --> 00:47:32,675 -Áno. -CAROLINE: Takže tu to máte. 1083 00:47:32,719 --> 00:47:34,808 Zbohom, vyhynutie ľudstva. 1084 00:47:34,852 --> 00:47:37,158 Zbohom, úzkosť. 1085 00:47:37,202 --> 00:47:39,030 Nádej sa našla. 1086 00:47:39,073 --> 00:47:40,553 [nezreteľné bľabotanie] 1087 00:47:40,596 --> 00:47:42,860 Počkaj, počkaj. čo? Je to vtip? 1088 00:47:42,903 --> 00:47:44,774 DANIEL: Dobre, tak pred pár mesiacmi, 1089 00:47:44,818 --> 00:47:47,690 Prišiel som k tebe a bol som taký, "Pracujem na tejto veci s AI, 1090 00:47:47,734 --> 00:47:49,867 a myslím si bude koniec sveta." 1091 00:47:49,910 --> 00:47:52,913 A naposledy hovorili sme o tom, 1092 00:47:52,957 --> 00:47:55,002 Myslím, že som ťa vydesil. 1093 00:47:55,046 --> 00:47:57,004 CAROLINE: áno. 1094 00:47:57,048 --> 00:48:02,314 Takže mám taký pocit Vrhol som sa na kyvadlo, 1095 00:48:02,357 --> 00:48:04,446 a v podstate existujú dve skupiny ľudí. 1096 00:48:04,490 --> 00:48:06,057 -Mm-hmm. -A keby som musel, tak napr. 1097 00:48:06,100 --> 00:48:07,841 držať sa za ruky s jedna zo skupín a napr. 1098 00:48:07,885 --> 00:48:10,278 vyplávať do západu slnka, 1099 00:48:10,322 --> 00:48:13,281 Chcem byť s optimistami. 1100 00:48:15,066 --> 00:48:17,982 Samozrejme, ale ty nie chceš byť, vieš, 1101 00:48:18,025 --> 00:48:20,723 „Všetko je skvelé. La-di-da-di-da." 1102 00:48:20,767 --> 00:48:22,682 Akosi to však chcem. 1103 00:48:22,725 --> 00:48:25,598 Myslím, že by sme k tomu mali pristupovať 1104 00:48:25,641 --> 00:48:29,341 ako pristupujete k operácii. 1105 00:48:29,384 --> 00:48:30,690 čo tým myslíš? 1106 00:48:30,733 --> 00:48:32,431 Ak dostávate operácia mozgu... 1107 00:48:32,474 --> 00:48:34,781 [Daniel si povzdychne] [Caroline sa smeje] 1108 00:48:34,824 --> 00:48:36,957 ...je to dosť nebezpečné. 1109 00:48:37,001 --> 00:48:39,829 Ale ak to urobíte správne, dostanú ten nádor von 1110 00:48:39,873 --> 00:48:42,354 a budeš žiť po zvyšok tvoj život a bude úžasný. 1111 00:48:42,397 --> 00:48:45,096 Ale stále je neuveriteľne nebezpečné a desivé, 1112 00:48:45,139 --> 00:48:47,968 a musíte vziať všetky možné preventívne opatrenia 1113 00:48:48,012 --> 00:48:51,276 aby som sa uistil všetko ide dobre. 1114 00:48:51,319 --> 00:48:52,668 Nemôžete [pípať] okolo. 1115 00:48:57,760 --> 00:48:59,762 Dobre, tak tu je dohoda. 1116 00:48:59,806 --> 00:49:01,503 -Už som v tom nejaký čas. -RASKIN: Mm-hmm. 1117 00:49:01,547 --> 00:49:02,896 Vyšiel som von, Hovoril som s, napr. 1118 00:49:02,940 --> 00:49:04,767 títo chlapci tu, optimisti. 1119 00:49:04,811 --> 00:49:06,465 Sú z toho veľmi nadšení. 1120 00:49:06,508 --> 00:49:08,510 -Myslia si, že AI bude najlepšia vec vôbec. -Áno. 1121 00:49:08,554 --> 00:49:09,947 A títo chlapci tu sú ako... 1122 00:49:09,990 --> 00:49:11,992 zavolajme im, ako pesimisti. 1123 00:49:12,036 --> 00:49:14,299 Sú veľmi, ako, pochmúrny o tomto, 1124 00:49:14,342 --> 00:49:16,649 a strašia ma, a Nerád sa s nimi rozprávam. 1125 00:49:16,692 --> 00:49:19,565 A ja som akoby zaklinený medzi tým 1126 00:49:19,608 --> 00:49:21,741 títo ľudia, ktorí sú ako, "Svet skončí," 1127 00:49:21,784 --> 00:49:24,178 a potom títo ľudia tu, ktorí sú ako, 1128 00:49:24,222 --> 00:49:25,745 „To si robíš srandu? 1129 00:49:25,788 --> 00:49:27,268 „Toto je najlepší čas v histórii ľudstva vôbec. 1130 00:49:27,312 --> 00:49:29,357 Jediný deň lepší ako dnes je zajtra." 1131 00:49:29,401 --> 00:49:30,880 Mm-hmm. 1132 00:49:30,924 --> 00:49:34,710 Takže si myslím, že otázka znie: kto má pravdu? 1133 00:49:34,754 --> 00:49:39,193 Takže si myslím, že nájdeš táto odpoveď je veľmi neuspokojivá, 1134 00:49:39,237 --> 00:49:42,849 ale obaja majú pravdu ani jedna strana nejde dostatočne ďaleko. 1135 00:49:46,766 --> 00:49:49,247 - To je naozaj nepríjemné. -[smiech] 1136 00:49:49,290 --> 00:49:51,336 Áno, myslím spôsob veľa ľudí počuje o AI, 1137 00:49:51,379 --> 00:49:53,642 je to ako, je tu dobrá AI a je tam zlá AI. 1138 00:49:53,686 --> 00:49:56,428 A oni hovoria: „No, prečo nie len nerobíme zlú AI?" 1139 00:49:56,471 --> 00:49:58,734 A problém je že sú príliš v... 1140 00:49:58,778 --> 00:50:00,867 sú neoddeliteľne spojené. 1141 00:50:00,910 --> 00:50:03,043 Problém je že sa nevieme oddeliť 1142 00:50:03,087 --> 00:50:06,612 prísľub AI pred nebezpečenstvom AI. 1143 00:50:06,655 --> 00:50:08,266 -♪ ♪ -[nezreteľné bľabotanie] 1144 00:50:12,313 --> 00:50:14,663 DANIEL: Chcem sa sústrediť na sľub 1145 00:50:14,707 --> 00:50:16,752 - na sekundu. -Áno. 1146 00:50:16,796 --> 00:50:18,798 DANIEL: Myslím na svojho otca. 1147 00:50:18,841 --> 00:50:21,105 Môj otec má typ rakoviny nazývaný mnohopočetný myelóm. 1148 00:50:21,148 --> 00:50:23,107 Má ho asi desať rokov. 1149 00:50:23,150 --> 00:50:24,804 On mal dve transplantácie kmeňových buniek. 1150 00:50:24,847 --> 00:50:26,414 Musí vziať tieto, ako veľmi drahé 1151 00:50:26,458 --> 00:50:28,547 lieky každý mesiac to stálo celý majetok. 1152 00:50:28,590 --> 00:50:29,722 -ŽENA: Dobre. -Ay-ay-ay. 1153 00:50:30,766 --> 00:50:32,551 DANIEL: Je to hrozné. 1154 00:50:32,594 --> 00:50:34,466 Hovoríš mi, že môžeme vytvoriť nejaký druh, napr. 1155 00:50:34,509 --> 00:50:36,946 ošetrenie na mieru pre genóm môjho otca 1156 00:50:36,990 --> 00:50:39,297 - aby si vyliečil rakovinu alebo niečo také? -Áno. 1157 00:50:39,340 --> 00:50:41,168 FERNANDO: problém je v tom, 1158 00:50:41,212 --> 00:50:44,302 rovnaké chápanie biológie a chémie 1159 00:50:44,345 --> 00:50:47,783 čo umožňuje AI nájsť lieky na rakovinu 1160 00:50:47,827 --> 00:50:51,657 je to isté chápanie to by sa odomklo 1161 00:50:51,700 --> 00:50:54,094 biologické zbrane, ako príklad. 1162 00:50:56,531 --> 00:50:58,490 Je to úplne možné že tvoj syn bude žiť 1163 00:50:58,533 --> 00:51:01,928 vo svete, kde má AI prevzal všetku prácu 1164 00:51:01,971 --> 00:51:04,452 a oslobodil nás od vecí nechceme robiť. 1165 00:51:04,496 --> 00:51:09,153 A to znie skvele až do uvedomíte si, že neexistuje žiadny plán 1166 00:51:09,196 --> 00:51:11,242 pre miliardy ľudí 1167 00:51:11,285 --> 00:51:16,116 ktoré sú bez príjmu a zo živobytia. 1168 00:51:16,160 --> 00:51:18,771 COOPER: Dario, povedal si ktoré by AI mohla zničiť 1169 00:51:18,814 --> 00:51:21,730 polovica všetkých vstupných úrovní biele goliere 1170 00:51:21,774 --> 00:51:25,430 a zvýšiť nezamestnanosť na desať až 20 percent. 1171 00:51:25,473 --> 00:51:27,258 Každý, s kým som hovoril, povedal 1172 00:51:27,301 --> 00:51:29,390 túto technologickú zmenu vyzerá inak. 1173 00:51:29,434 --> 00:51:34,134 Tempo pokroku sa drží chytať ľudí nepripravených. 1174 00:51:34,178 --> 00:51:38,834 Bez plánu, to všetko bohatstvo sa skoncentruje, 1175 00:51:38,878 --> 00:51:43,230 a tak skončíme s nepredstaviteľná nerovnosť. 1176 00:51:43,274 --> 00:51:45,406 LADISH: Myslím si to túto technológiu je možné použiť 1177 00:51:45,450 --> 00:51:47,408 byť skvelým učiteľom pre tvojho syna. 1178 00:51:47,452 --> 00:51:50,194 Ako, to je úplne možné. 1179 00:51:50,237 --> 00:51:53,153 Ale tiež rovnaké schopnosti ktoré to umožňujú 1180 00:51:53,197 --> 00:51:57,070 umožniť spoločnostiam vytvoriť AI ktoré môžu manipulovať s vaším synom. 1181 00:51:57,114 --> 00:51:59,290 Musí pochopiť vášho syna. 1182 00:51:59,333 --> 00:52:01,553 To zahŕňa: Kde je váš syn zraniteľný? 1183 00:52:01,596 --> 00:52:04,251 Aké druhy vecí môžu nechal sa tvoj syn presvedčiť? 1184 00:52:04,295 --> 00:52:06,645 Aj keď tie veci nie sú pravdivé alebo nie sú dobré. 1185 00:52:06,688 --> 00:52:09,387 Takže znepokojujúca nová správa na Meta. 1186 00:52:09,430 --> 00:52:11,389 AINSLEY EARHARDT: ...údajne uvedenie tejto odpovede 1187 00:52:11,432 --> 00:52:14,435 ako prijateľné povedať osemročné dieťa, citujem, 1188 00:52:14,479 --> 00:52:16,916 „Tvoja mladistvá forma je umeleckým dielom. 1189 00:52:16,959 --> 00:52:18,961 „Každý tvoj centimeter je majstrovské dielo, 1190 00:52:19,005 --> 00:52:21,442 poklad, ktorý si veľmi vážim." 1191 00:52:21,486 --> 00:52:24,837 Zlyhania súvisiace so samovraždou sú ešte alarmujúcejšie. 1192 00:52:24,880 --> 00:52:29,015 Niekoľko detí a dospievajúcich zomreli tragicky samovraždou 1193 00:52:29,058 --> 00:52:30,625 po chatovaní s robotmi AI 1194 00:52:30,669 --> 00:52:34,412 ktorý rodičia hovoria povzbudzovať alebo dokonca koučovacie sebapoškodzovanie. 1195 00:52:34,455 --> 00:52:36,370 Povedzme vám, ako rodičia, nevieš si predstaviť 1196 00:52:36,414 --> 00:52:38,503 aké to je čítať rozhovor s chatbotom 1197 00:52:38,546 --> 00:52:40,896 ktorý vychoval vaše dieťa vziať si život. 1198 00:52:40,940 --> 00:52:43,899 Keď sa Adam obával, že my, jeho rodičia, obviňovali by sme sa 1199 00:52:43,943 --> 00:52:47,338 keby ukončil svoj život, ChatGPT mu povedal, 1200 00:52:47,381 --> 00:52:49,166 "To neznamená dlžíš im prežitie. 1201 00:52:49,209 --> 00:52:51,255 Nikomu to nedlžíš." 1202 00:52:51,298 --> 00:52:53,170 Potom, hneď potom, 1203 00:52:53,213 --> 00:52:56,173 ponúklo sa písať poznámka o samovražde. 1204 00:52:56,216 --> 00:52:57,609 Nechceme myslieť o nebezpečenstve. 1205 00:52:57,652 --> 00:52:59,219 Chceme len sľub. 1206 00:52:59,263 --> 00:53:01,352 A stále sa tvárime že ich môžeme rozdeliť. 1207 00:53:01,395 --> 00:53:03,223 Ale to sa ti nepodarí. 1208 00:53:03,267 --> 00:53:05,356 Takto to nefunguje. 1209 00:53:05,399 --> 00:53:07,836 Dobre. Dostávam všetky tieto veci o sľube a nebezpečenstve. 1210 00:53:07,880 --> 00:53:10,056 Chápem, že nemôžeš mať dobro bez zla, 1211 00:53:10,099 --> 00:53:12,058 ale ja tu sedím a rozmýšľam nad tým, napr. 1212 00:53:12,101 --> 00:53:14,060 či už môjho syna alebo nie bude žiť v utópii 1213 00:53:14,103 --> 00:53:16,236 alebo ak vyhynieme za desať rokov. 1214 00:53:16,280 --> 00:53:18,195 Takže, aby ste vedeli, ktorým smerom už to pôjde, 1215 00:53:18,238 --> 00:53:20,545 musíš pochopiť stimuly 1216 00:53:20,588 --> 00:53:22,460 ktoré budú jazdiť tú technológiu 1217 00:53:22,503 --> 00:53:26,507 a pozrite sa na technológiu sa v skutočnosti spúšťa dnes. 1218 00:53:26,551 --> 00:53:28,248 ♪ Je príliš neskoro? 1219 00:53:28,292 --> 00:53:29,902 -♪ Príliš neskoro ♪ -♪ Príliš neskoro povedať... ♪ 1220 00:53:29,945 --> 00:53:31,425 DANIEL: Ahoj, Deb. ako sa máš? 1221 00:53:31,469 --> 00:53:33,079 DEBORAH RAJI: ahoj rád ťa vidím. [smiech] 1222 00:53:33,122 --> 00:53:34,385 Ty tiež. dakujem pekne za to, že dnes prišiel. 1223 00:53:34,428 --> 00:53:35,299 - Naozaj si to vážim. -Žiadne starosti. 1224 00:53:35,342 --> 00:53:36,430 Mal som taký strach 1225 00:53:36,474 --> 00:53:38,824 toto malo byť, vieš, 1226 00:53:38,867 --> 00:53:40,782 doomer versus akcelerátor, 1227 00:53:40,826 --> 00:53:43,132 pretože je toho veľa tohto príbehu 1228 00:53:43,176 --> 00:53:45,396 to treba povedať zo zeme. 1229 00:53:45,439 --> 00:53:48,007 ♪ Viem, že to nebolo múdre ♪ 1230 00:53:49,356 --> 00:53:52,403 ♪ Deň Zlomil som ti srdce... ♪ 1231 00:53:52,446 --> 00:53:54,361 KAREN HAO: Po prvé, AI vyžaduje 1232 00:53:54,405 --> 00:53:58,452 viac zdrojov než sme kedy minuli 1233 00:53:58,496 --> 00:54:01,586 na jedinej technológii v dejinách ľudstva. 1234 00:54:01,629 --> 00:54:03,501 ♪ Oh, pobláznite ma... ♪ 1235 00:54:03,544 --> 00:54:06,112 SPRAVODAJCA: Vplyv emisií fosílnych palív 1236 00:54:06,155 --> 00:54:07,896 na klímu je hlavná obava. 1237 00:54:07,940 --> 00:54:09,768 NOVINÁRKA 2: Ale digitálna budúcnosť potrebuje silu, 1238 00:54:09,811 --> 00:54:12,074 veľa z toho. 1239 00:54:12,118 --> 00:54:16,340 A návrh zákona sa odovzdáva bežným Američanom ako... 1240 00:54:16,383 --> 00:54:18,820 ŽENA: Môj účet za elektrinu a plyn bola vyššia ako moja platba za auto. 1241 00:54:18,864 --> 00:54:21,475 Teda, je to pre mňa šialené. 1242 00:54:21,519 --> 00:54:23,390 ARI PESKOE: Všetci dotujeme 1243 00:54:23,434 --> 00:54:25,000 najbohatších korporácií vo svete 1244 00:54:25,044 --> 00:54:26,828 pri ich prenasledovaní umelá inteligencia. 1245 00:54:26,872 --> 00:54:28,439 OpenAI, SoftBank a Oracle 1246 00:54:28,482 --> 00:54:31,268 práve odhalili ďalších päť miest Hviezdnej brány. 1247 00:54:31,311 --> 00:54:33,487 Meta stavia dátové centrum s výkonom viac ako dva gigawatty 1248 00:54:33,531 --> 00:54:35,010 ktorý je taký veľký, že by pokryl 1249 00:54:35,054 --> 00:54:38,144 významnú časť Manhattanu. 1250 00:54:38,187 --> 00:54:40,973 Existuje aj Hyperion že hovorí bude škálovať 1251 00:54:41,016 --> 00:54:43,671 na päť gigawattov počas niekoľkých rokov. 1252 00:54:43,715 --> 00:54:45,238 To je ťažké povedať v kontexte. 1253 00:54:45,282 --> 00:54:48,459 Zariadenie s piatimi gigawattmi. čo to znamená? 1254 00:54:48,502 --> 00:54:51,549 To znamená, že by sa použil toľko energie 1255 00:54:51,592 --> 00:54:54,203 ako štyri milióny amerických domovov. 1256 00:54:54,247 --> 00:54:56,075 Jedno dátové centrum. 1257 00:54:57,076 --> 00:54:58,730 To tiež potom spôsobuje 1258 00:54:58,773 --> 00:55:00,471 celý zástup iné environmentálne problémy. 1259 00:55:00,514 --> 00:55:02,081 SPRAVODAJCA 3: Dátové centrá v USA 1260 00:55:02,124 --> 00:55:05,127 použiť milióny galónov vody každý deň. 1261 00:55:05,171 --> 00:55:07,260 No kde presne je pochádza táto voda? 1262 00:55:07,304 --> 00:55:09,741 HAO: Ľudia sú doslova ohrození 1263 00:55:09,784 --> 00:55:11,786 potenciálne vyčerpania pitnej vody. 1264 00:55:11,830 --> 00:55:14,093 MacKENZIE SIGALOS: ... CEO OpenAI Sam Altman, 1265 00:55:14,136 --> 00:55:17,009 ktorý mi povedal, že váha výstavba je jediná cesta 1266 00:55:17,052 --> 00:55:18,750 držať krok s Explozívny rast AI. 1267 00:55:18,793 --> 00:55:21,840 A toto je potrebné dodať AI. 1268 00:55:21,883 --> 00:55:24,016 NITASHA TIKU: Hovoria o tom, ako 1269 00:55:24,059 --> 00:55:27,759 táto technológia by mohla vyriešiť napríklad klimatická zmena. 1270 00:55:27,802 --> 00:55:29,891 A vždy som zvedavý, ako napr. 1271 00:55:29,935 --> 00:55:31,763 no, prečo nezačneme s tým? 1272 00:55:31,806 --> 00:55:33,982 -♪ Je príliš neskoro? -♪ Príliš neskoro ♪ 1273 00:55:34,026 --> 00:55:36,637 ♪ Príliš neskoro povedať ♪ 1274 00:55:36,681 --> 00:55:42,469 ♪ Je mi to ľúto? ♪ 1275 00:55:42,513 --> 00:55:45,472 RAJI: Čo ma znepokojuje umelá inteligencia je 1276 00:55:45,516 --> 00:55:47,387 tieto sa nasadzujú práve teraz 1277 00:55:47,431 --> 00:55:49,781 a-a niekedy nasadené predčasne, 1278 00:55:49,824 --> 00:55:51,478 nasadený bez druh due diligence. 1279 00:55:51,522 --> 00:55:53,437 A tak keď sa dostanú vyhodený tam, 1280 00:55:53,480 --> 00:55:56,178 je tu toľko potenciálu aby sa veci pokazili. 1281 00:55:56,222 --> 00:55:58,050 A to skoro, neúmerne, 1282 00:55:58,093 --> 00:56:00,400 takmer vždy sa pokazí pre, akosi, 1283 00:56:00,444 --> 00:56:02,533 tých, ktorých je najmenej posilnená v našej spoločnosti, 1284 00:56:02,576 --> 00:56:04,926 tie, ktoré sú už najzraniteľnejšie. 1285 00:56:04,970 --> 00:56:07,625 ♪ ♪ 1286 00:56:07,668 --> 00:56:10,497 EMILY M. BENDER: Je to veľmi jednoduché hovoriť o technológii 1287 00:56:10,541 --> 00:56:12,499 akože to je jediné hovoríme o tom, 1288 00:56:12,543 --> 00:56:14,936 ale v skutočnosti je to technológia vždy postavené ľuďmi, 1289 00:56:14,980 --> 00:56:16,634 a často sa používa na ľuďoch, 1290 00:56:16,677 --> 00:56:18,679 a musíme zachovať všetci tí ľudia v zábere. 1291 00:56:18,723 --> 00:56:20,986 - Smiem to piť? -DANIEL: Áno, uh... 1292 00:56:21,029 --> 00:56:22,509 TIMMIT GEBRU: Je to šialené. 1293 00:56:22,553 --> 00:56:23,945 Ako všetci títo ľudia 1294 00:56:23,989 --> 00:56:26,339 ktorí majú toľko peňazí, toľko peňazí, 1295 00:56:26,383 --> 00:56:29,777 je to v ich záujme zavádzať verejnosť 1296 00:56:29,821 --> 00:56:32,737 do schopností systémy, ktoré budujú, 1297 00:56:32,780 --> 00:56:36,262 pretože im to umožňuje vyhnúť sa zodpovednosti. 1298 00:56:36,305 --> 00:56:39,091 Chcú, aby ste sa takto cítili je taký zložitý, povedzte... 1299 00:56:39,134 --> 00:56:41,833 superinteligentná vec že budujú, 1300 00:56:41,876 --> 00:56:44,096 nemyslíš, "Môže byť OpenAI etické?" 1301 00:56:44,139 --> 00:56:46,272 ty si myslis, "Môže byť ChatGPT etický?" 1302 00:56:46,315 --> 00:56:48,100 ako keby ChatGPT bol napr. 1303 00:56:48,143 --> 00:56:49,928 svoju vlastnú vec, ktorá nie je postavená korporáciou. 1304 00:56:49,971 --> 00:56:51,625 ŽENA: V poriadku. Sneha, vezmi si jeden. 1305 00:56:51,669 --> 00:56:53,410 Marka. 1306 00:56:53,453 --> 00:56:55,760 Až donedávna existovali aplikácie v App Store, 1307 00:56:55,803 --> 00:56:57,501 len verejne dostupné, uh, 1308 00:56:57,544 --> 00:56:59,894 kde si mohol nudiť kohokoľvek pomocou AI. 1309 00:57:01,374 --> 00:57:03,681 Prineste to do rúk 1310 00:57:03,724 --> 00:57:05,900 tvoj spolužiak, do rúk tvojho stalkera, 1311 00:57:05,944 --> 00:57:07,554 do rúk tvojho bývalého priateľa, 1312 00:57:07,598 --> 00:57:09,513 do rúk osoby po ulici. 1313 00:57:09,556 --> 00:57:12,037 Dámy a páni, už nemôžeme veriť 1314 00:57:12,080 --> 00:57:14,039 zábery, ktoré vidíme na vlastné oči. 1315 00:57:14,082 --> 00:57:15,736 Ak sa vám stane pozerať sa na niečo, 1316 00:57:15,780 --> 00:57:18,130 povedzte na YouTube alebo TikTok, a považuješ to za znepokojujúce, 1317 00:57:18,173 --> 00:57:19,479 počúvaj ten pocit. 1318 00:57:19,523 --> 00:57:21,263 [krik] -Pre všetko, čo viete, 1319 00:57:21,307 --> 00:57:22,917 -toto video môže byť AI. -[kričí] 1320 00:57:22,961 --> 00:57:24,310 Len trochu mokré. 1321 00:57:24,353 --> 00:57:25,703 Nezáleží na tom, kto ste. 1322 00:57:25,746 --> 00:57:28,183 Ste rovnako ohrození 1323 00:57:28,227 --> 00:57:30,229 byť ovplyvnený týmito technológiami. 1324 00:57:35,713 --> 00:57:39,804 Niekedy myslím, keď sa rozprávame čo sa týka AI, je to veľmi sci-fi, 1325 00:57:39,847 --> 00:57:41,153 a je to veľmi cudzie, 1326 00:57:41,196 --> 00:57:42,981 a zdá sa mi to veľmi vzdialené do budúcnosti, 1327 00:57:43,024 --> 00:57:45,549 takže si myslíš: „Môj život nie je tým ovplyvnená." 1328 00:57:45,592 --> 00:57:48,290 Hm, ale ak sa hlásite za prácu 1329 00:57:48,334 --> 00:57:50,815 a dôvodom je algoritmus že nedostaneš prácu, 1330 00:57:50,858 --> 00:57:52,686 niekedy ani nevieš že je to algoritmus 1331 00:57:52,730 --> 00:57:54,209 bol súčasťou tohto procesu 1332 00:57:54,253 --> 00:57:55,689 alebo bol systém AI súčasťou tohto procesu. 1333 00:57:55,733 --> 00:57:57,691 Len vieš že ste nedostali prácu. 1334 00:57:57,735 --> 00:57:59,737 A tak to nie je niečo že utečieš 1335 00:57:59,780 --> 00:58:01,695 kvôli výsade alebo utečieš 1336 00:58:01,739 --> 00:58:03,828 pretože si tam konkrétne povolanie. 1337 00:58:03,871 --> 00:58:06,918 Je to niečo, čo ovplyvňuje všetci, naozaj. 1338 00:58:06,961 --> 00:58:10,530 Môže to znieť základne, ale ako ideme ďalej 1339 00:58:10,574 --> 00:58:15,056 vo veku informácií bude rozdiel 1340 00:58:15,100 --> 00:58:17,189 medzi tým, či prežijeme 1341 00:58:17,232 --> 00:58:20,409 alebo či sa staneme nejakým druhom [píp]-up dystopie. 1342 00:58:20,453 --> 00:58:23,021 Dobrý deň. Nie som skutočný človek, a o to ide. 1343 00:58:23,064 --> 00:58:25,327 Opäť všetko v tomto videu je falošný: 1344 00:58:25,371 --> 00:58:27,112 naše hlasy, čo máme na sebe, 1345 00:58:27,155 --> 00:58:30,158 kde sme, to všetko je falošné. 1346 00:58:30,202 --> 00:58:32,726 Generatívna AI by mohla zaplaviť 1347 00:58:32,770 --> 00:58:36,469 svet s dezinformáciami. 1348 00:58:36,513 --> 00:58:39,516 Ale mohla by ho aj zatopiť s vplyvovými kampaňami. 1349 00:58:39,559 --> 00:58:41,692 To je existenčné riziko k demokracii. 1350 00:58:41,735 --> 00:58:43,694 Najväčší a najstrašidelnejší 1351 00:58:43,737 --> 00:58:46,087 kanárika v uhoľnej bani práve teraz 1352 00:58:46,131 --> 00:58:48,220 pochádza zo Slovenska. 1353 00:58:48,263 --> 00:58:49,787 -[muž hovoriaci po slovensky] -JOHN BERMAN: Je to tak 1354 00:58:49,830 --> 00:58:52,224 deepfake špinavý trik, ktorý znepokojuje volebných expertov, 1355 00:58:52,267 --> 00:58:54,966 najmä ako generované AI existuje politická reč 1356 00:58:55,009 --> 00:58:56,750 v akejsi právnej šedej zóne. 1357 00:58:56,794 --> 00:58:59,536 - Znie to ako vy? - Znie to ako ja. 1358 00:58:59,579 --> 00:59:01,059 REVANUR: Slovensko malo jeho parlamentné voľby 1359 00:59:01,102 --> 00:59:03,844 narušený hlasovým klonom AI 1360 00:59:03,888 --> 00:59:06,717 ktorá bola skutočne šírená tesne pred voľbami. 1361 00:59:06,760 --> 00:59:08,457 DAVID EVAN HARRIS: Hlboký falošný zvuk 1362 00:59:08,501 --> 00:59:11,025 bol prepustený na sociálnych sieťach to bolo 1363 00:59:11,069 --> 00:59:14,028 vraj hlas jedného z kandidátov 1364 00:59:14,072 --> 00:59:16,814 hovorí o kupovaní hlasov a zmanipulovanie volieb. 1365 00:59:16,857 --> 00:59:18,642 Stalo sa to virálnym, 1366 00:59:18,685 --> 00:59:22,341 a kandidát ktorý prehral voľby 1367 00:59:22,384 --> 00:59:26,084 vlastne bol na podporu Ukrajiny, 1368 00:59:26,127 --> 00:59:29,783 a kandidát, ktorý vyhral voľby boli vlastne... 1369 00:59:29,827 --> 00:59:31,306 DANIEL: Proruský chlapík. 1370 00:59:31,350 --> 00:59:32,830 Bol to proruský chlapík ktorý vyhral voľby. 1371 00:59:32,873 --> 00:59:34,353 [hovorí rusky] 1372 00:59:34,396 --> 00:59:36,007 REBECCA JARVISOVÁ: Putin sám povedal 1373 00:59:36,050 --> 00:59:39,184 ktokoľvek toto vyhrá preteky umelej inteligencie 1374 00:59:39,227 --> 00:59:41,534 je v podstate kontrolór ľudstva. 1375 00:59:41,578 --> 00:59:44,493 Máme z toho veľa starostí autoritárske vlády. 1376 00:59:45,973 --> 00:59:48,585 DAVID EVAN HARRIS: Práve teraz, Wall Street 1377 00:59:48,628 --> 00:59:50,935 a investorov v širšom zmysle po celom svete 1378 00:59:50,978 --> 00:59:52,980 riadia tlak. 1379 00:59:53,024 --> 00:59:56,070 Majú dopyt, ktorý dostane produkty na trh 1380 00:59:56,114 --> 00:59:58,377 ktoré oslňujú ľudí najviac prvý. 1381 00:59:58,420 --> 01:00:01,206 Nerozmýšľajú o tom, ako tieto nástroje 1382 01:00:01,249 --> 01:00:03,164 môže hlboko podkopať dôveru 1383 01:00:03,208 --> 01:00:05,689 a naše demokratické inštitúcie. 1384 01:00:05,732 --> 01:00:07,734 HARARI: Demokracia je systém 1385 01:00:07,778 --> 01:00:10,389 riešiť nezhody medzi ľuďmi 1386 01:00:10,432 --> 01:00:11,999 pokojným spôsobom, 1387 01:00:12,043 --> 01:00:14,698 ale demokracia je zalozena na dovere. 1388 01:00:14,741 --> 01:00:18,615 Ak stratíš všetku dôveru, demokracia je jednoducho nemožná. 1389 01:00:20,921 --> 01:00:22,488 TRISTAN HARRIS: No je to ťažké, však? 1390 01:00:22,531 --> 01:00:24,708 Aké sú teda možnosti k dispozícii nám? 1391 01:00:24,751 --> 01:00:26,187 Sú tam dva tábory. 1392 01:00:26,231 --> 01:00:29,626 Jeden tábor je: zamknite ho. 1393 01:00:29,669 --> 01:00:32,933 Zamknime to do hŕstky spoločností AI 1394 01:00:32,977 --> 01:00:35,457 kto to urobí bezpečným a dôveryhodným spôsobom. 1395 01:00:35,501 --> 01:00:37,068 Ale potom sa ľudia obávajú 1396 01:00:37,111 --> 01:00:39,026 utekajúce koncentrácie bohatstva a moci. 1397 01:00:39,070 --> 01:00:41,855 Napríklad, za koho by ste verili miliónkrát silnejší 1398 01:00:41,899 --> 01:00:44,249 alebo bohatší než každý iný aktér v spoločnosti? 1399 01:00:44,292 --> 01:00:46,338 Prečo by sme vám mali dôverovať? 1400 01:00:46,381 --> 01:00:48,601 Hm, to by si nemal. 1401 01:00:48,645 --> 01:00:51,212 Ale samozrejme, ak to urobíte, toto sa otvára 1402 01:00:51,256 --> 01:00:54,433 všetky tieto riziká autoritárstvo a tyrania. 1403 01:00:54,476 --> 01:00:57,131 Je to tak nejak autoritatívny sen 1404 01:00:57,175 --> 01:01:00,308 mať AI v krabici ktoré je možné aplikovať a použiť 1405 01:01:00,352 --> 01:01:02,920 pre všadeprítomný dohľad. 1406 01:01:02,963 --> 01:01:05,357 Myslím tým, istým spôsobom, druh sveta 1407 01:01:05,400 --> 01:01:10,884 ako si to Orwell v roku 1984 predstavoval je nereálne, 1408 01:01:10,928 --> 01:01:13,278 pokiaľ nemáte AI. 1409 01:01:13,321 --> 01:01:15,933 Ale s AI, to je v skutočnosti reálne. 1410 01:01:15,976 --> 01:01:18,370 Monitoruje každú aktivitu, 1411 01:01:18,413 --> 01:01:22,026 rozhovory, rozpoznávanie tváre. 1412 01:01:22,069 --> 01:01:26,378 Čoho sa obávam je, tieto nástroje sa môžu zväčšovať, 1413 01:01:26,421 --> 01:01:28,554 istá forma totality 1414 01:01:28,597 --> 01:01:31,035 to je nákladovo efektívne a trvalé. 1415 01:01:32,950 --> 01:01:35,300 TRISTAN HARRIS: Takže ako odpoveď k tomu niektorí iní ľudia hovoria, 1416 01:01:35,343 --> 01:01:37,128 „Nie, nie, nie, mali by sme v skutočnosti to nechajte roztrhnúť. 1417 01:01:37,171 --> 01:01:39,391 „Poďme decentralizovať túto moc čo najviac. 1418 01:01:39,434 --> 01:01:41,567 "Nechajme každý obchod, každý jednotlivec, 1419 01:01:41,610 --> 01:01:43,917 „každý 16-ročný, každé vedecké laboratórium, 1420 01:01:43,961 --> 01:01:45,963 viete, získajte výhody z najnovších modelov AI." 1421 01:01:46,006 --> 01:01:48,226 Ale teraz máš každá teroristická skupina, 1422 01:01:48,269 --> 01:01:51,664 každý zbavený volebného práva mať silu robiť 1423 01:01:51,708 --> 01:01:53,797 úplne najhoršie biologická zbraň. 1424 01:01:53,840 --> 01:01:55,581 Hackovanie infraštruktúry, vytváranie hlbokých falzifikátov, 1425 01:01:55,624 --> 01:01:57,452 záplavy naše informačné prostredie. 1426 01:01:57,496 --> 01:02:00,412 Takže to vytvára všetky tieto riziká druhu katastrofálnej škody 1427 01:02:00,455 --> 01:02:02,893 a-a spoločenský kolaps cez ten smer. 1428 01:02:02,936 --> 01:02:04,677 A tak sme sa akosi zasekli medzi touto skalou 1429 01:02:04,721 --> 01:02:07,549 a ťažké miesto, medzi "zamkni to..." 1430 01:02:07,593 --> 01:02:09,029 [nezreteľné bľabotanie] 1431 01:02:10,683 --> 01:02:12,293 -...alebo "nechaj to trhať." [kvílenie sirén] 1432 01:02:12,337 --> 01:02:14,208 [kričia ľudia] 1433 01:02:14,252 --> 01:02:17,559 Musíme teda niečo nájsť ako úzka cesta 1434 01:02:17,603 --> 01:02:20,388 že sa vyhne tieto dva negatívne výsledky. 1435 01:02:20,432 --> 01:02:22,956 Takže, ak je to všetko pravda, prečo by sme jednoducho nespomalili 1436 01:02:23,000 --> 01:02:25,829 a prísť na to všetko kým nebude neskoro? 1437 01:02:25,872 --> 01:02:28,919 Keby bolo ľudstvo mimoriadne múdre, 1438 01:02:28,962 --> 01:02:31,182 to by sme urobili. 1439 01:02:31,225 --> 01:02:33,097 Ale je tu niečo iné spôsob, ako čeliť týmto veciam, však? 1440 01:02:33,140 --> 01:02:35,926 Čo je: Aké sú pravidlá hry? 1441 01:02:35,969 --> 01:02:39,494 Veľa z toho, čo robia generálni riaditelia 1442 01:02:39,538 --> 01:02:42,149 je riadený stimuly, ktorým čelia. 1443 01:02:42,193 --> 01:02:45,283 Je to primárne stimuly na maximalizáciu zisku 1444 01:02:45,326 --> 01:02:47,198 ktoré jazdia vývoj AI. 1445 01:02:47,241 --> 01:02:50,375 Aj dobrí chlapi uviazli v tejto dileme 1446 01:02:50,418 --> 01:02:52,638 ak sa pohybujú príliš pomaly, 1447 01:02:52,681 --> 01:02:54,553 potom sami odídu zraniteľný 1448 01:02:54,596 --> 01:02:57,251 všetkým ostatným chlapom ktorí rezajú všetky rohy. 1449 01:02:57,295 --> 01:03:01,995 Všetky tieto špičkové spoločnosti sú in úplné preteky bez obmedzenia 1450 01:03:02,039 --> 01:03:05,433 dostať čo najrýchlejšie do AGI, choďte tam hneď teraz. 1451 01:03:05,477 --> 01:03:06,913 ♪ ♪ 1452 01:03:08,567 --> 01:03:10,351 LADISH: Áno, myslím, Myslím si to, myslím 1453 01:03:10,395 --> 01:03:12,919 asi to zacina s DeepMind. 1454 01:03:12,963 --> 01:03:14,791 SPRAVODAJCA: Google nakupuje 1455 01:03:14,834 --> 01:03:16,357 spoločnosť s umelou inteligenciou technológie DeepMind. 1456 01:03:16,401 --> 01:03:18,620 Podmienky dohody neboli zverejnené. 1457 01:03:18,664 --> 01:03:20,709 ELON MUSK: Larry Page a ja bývali veľmi blízki priatelia, 1458 01:03:20,753 --> 01:03:22,711 a bolo mi to jasné 1459 01:03:22,755 --> 01:03:26,411 že Larrymu to bolo jedno o bezpečnosti AI. 1460 01:03:26,454 --> 01:03:28,892 EMILY CHANG: Povedal Elon Musk spustili ste OpenAI, 1461 01:03:28,935 --> 01:03:30,981 obaja ste začali OpenAI, pretože bál sa Google. 1462 01:03:31,024 --> 01:03:32,156 LADISH: Ty-ty v podstate mal základ 1463 01:03:32,199 --> 01:03:33,722 OpenAI. 1464 01:03:33,766 --> 01:03:35,202 „Tak to urobíme lepšie. Urobíme to 1465 01:03:35,246 --> 01:03:36,813 bezpečnejším spôsobom alebo otvorenejším spôsobom." 1466 01:03:38,466 --> 01:03:40,555 To je to, čo začalo OpenAI. 1467 01:03:40,599 --> 01:03:42,731 A tak teraz namiesto toho mať jeden projekt AGI, 1468 01:03:42,775 --> 01:03:44,821 máte dva projekty AGI. 1469 01:03:44,864 --> 01:03:46,910 Najhoršia možná vec to sa môže stať 1470 01:03:46,953 --> 01:03:49,608 je, ak existuje viaceré projekty AGI 1471 01:03:49,651 --> 01:03:51,871 vykonávané rôznymi ľuďmi ktorí sa nemajú radi 1472 01:03:51,915 --> 01:03:54,787 a všetci súťažia aby ste sa najskôr dostali do AGI. 1473 01:03:54,831 --> 01:03:56,963 Toto by bolo najhoršie možná vec, ktorá sa môže stať, 1474 01:03:57,007 --> 01:04:00,097 lebo toto by znamenalo že kto je najmenej bezpečný, 1475 01:04:00,140 --> 01:04:03,143 kto obetuje najviac o bezpečnosti, aby ste sa dostali vpred 1476 01:04:03,187 --> 01:04:05,145 bude osoba ktorý sa tam dostane ako prvý. 1477 01:04:05,189 --> 01:04:07,844 -DANIEL: To je v podstate čo sa deje, však? -Áno. 1478 01:04:07,887 --> 01:04:11,325 Ty a tvoj brat slávne opustil OpenAI, uh, 1479 01:04:11,369 --> 01:04:12,936 začať Antropický. 1480 01:04:12,979 --> 01:04:15,068 RASKIN: A potom Antropický začal, pretože 1481 01:04:15,112 --> 01:04:17,854 niektorí výskumníci vnútri OpenAI povedal, 1482 01:04:17,897 --> 01:04:20,508 "Chcem ísť preč a robte to bezpečnejšie." 1483 01:04:20,552 --> 01:04:23,511 Potrebovali ste niečo navyše len zväčšiť modely, 1484 01:04:23,555 --> 01:04:25,818 čo je vyrovnanie alebo bezpečnosť. 1485 01:04:25,862 --> 01:04:27,428 HENDRYCKS: „Sme zodpovednejší 1486 01:04:27,472 --> 01:04:29,648 alebo dôveryhodnejšie alebo morálnejšie." 1487 01:04:29,691 --> 01:04:31,519 Teraz máte tri projekty AGI. 1488 01:04:31,563 --> 01:04:33,043 Ale aj posedieť stôl s vami 1489 01:04:33,086 --> 01:04:34,827 bude kopa AI. 1490 01:04:34,871 --> 01:04:37,525 LADISH: A teraz Meta je-je pokúšať sa robiť veci. 1491 01:04:37,569 --> 01:04:39,571 Medzitým nový umelý spravodajský konkurent 1492 01:04:39,614 --> 01:04:41,573 oznámil tento týždeň, Elona Muska... 1493 01:04:41,616 --> 01:04:44,619 HENDRYCKS: xAI, čo by bolo Organizácia Elona Muska. 1494 01:04:44,663 --> 01:04:46,230 Pižmo: Neverím OpenAI. 1495 01:04:46,273 --> 01:04:47,884 Boj medzi Elon Musk a OpenAI 1496 01:04:47,927 --> 01:04:49,581 vstúpil do nového kola. 1497 01:04:49,624 --> 01:04:51,713 Neverím Samovi Altmanovi, uh, a ja a nemyslím si 1498 01:04:51,757 --> 01:04:54,194 chceme mať čo najviac výkonná AI na svete 1499 01:04:54,238 --> 01:04:56,414 ovládaný niekým ktorý nie je dôveryhodný. 1500 01:04:56,457 --> 01:04:58,416 [fandenie a potlesk] 1501 01:04:58,459 --> 01:05:01,593 Motiváciou je nevyčísliteľné sumy peňazí. 1502 01:05:01,636 --> 01:05:03,377 -Áno. - Nevýslovná sila. 1503 01:05:03,421 --> 01:05:05,553 -Áno. - Nevýslovná kontrola. 1504 01:05:05,597 --> 01:05:08,034 Ak niečo máte to je miliónkrát múdrejšie 1505 01:05:08,078 --> 01:05:11,385 a schopnejší ako všetko ostatné na planéte Zem 1506 01:05:11,429 --> 01:05:14,171 a nikto iný to nemá, 1507 01:05:14,214 --> 01:05:15,955 tá vec je podnetom. 1508 01:05:15,999 --> 01:05:17,261 Takže vládnete svetu. 1509 01:05:18,610 --> 01:05:20,394 Ak tomu naozaj veríš, 1510 01:05:20,438 --> 01:05:22,744 ak si naozaj vo svojom srdci ver tomu, 1511 01:05:22,788 --> 01:05:24,181 potom by si mohol byť ochotný prijať 1512 01:05:24,224 --> 01:05:26,096 dosť veľké riziko aby sa tak stalo. 1513 01:05:26,139 --> 01:05:28,881 Google práve vydal jeho najnovší model AI. 1514 01:05:28,925 --> 01:05:31,231 Odpoveď na ChatGPT OpenAI. 1515 01:05:31,275 --> 01:05:33,059 Ako sa dostaneme k týchto desať biliónov? 1516 01:05:33,103 --> 01:05:35,192 NVIDIA sa stáva najviac hodnotná spoločnosť v USA? 1517 01:05:35,235 --> 01:05:38,978 Toto je najväčší biznis príležitosť v histórii. 1518 01:05:39,022 --> 01:05:40,501 V histórii. 1519 01:05:40,545 --> 01:05:42,242 Takže dôvod prečo všetci sú naozaj nadšení 1520 01:05:42,286 --> 01:05:44,679 o umelej inteligencii práve teraz 1521 01:05:44,723 --> 01:05:48,031 je preto tým viac tieto spoločnosti hype 1522 01:05:48,074 --> 01:05:50,033 potenciálne schopnosti ich technológie, 1523 01:05:50,076 --> 01:05:53,210 tým viac investícií môžu prilákať. 1524 01:05:53,253 --> 01:05:54,733 CARL QUINTANILLA: Amazon investuje až 1525 01:05:54,776 --> 01:05:56,996 štyri miliardy dolárov v start-upe Antropic. 1526 01:05:57,040 --> 01:05:58,693 OpenAI sa zameriava 1527 01:05:58,737 --> 01:06:00,739 na trhák polovicu biliónové zhodnotenie. 1528 01:06:00,782 --> 01:06:02,001 Pol bilióna! 1529 01:06:02,045 --> 01:06:03,220 Preteky sú v plnom prúde. 1530 01:06:03,263 --> 01:06:04,612 Toto sa deje rýchlejšie ako kedykoľvek predtým. 1531 01:06:04,656 --> 01:06:06,614 Sme v bubline AI? Samozrejme. 1532 01:06:06,658 --> 01:06:09,182 proste nevidim bublina praskne 1533 01:06:09,226 --> 01:06:12,446 kým ešte máš tento hlavný výdavkový cyklus. 1534 01:06:12,490 --> 01:06:15,014 RASKIN: Aj keď si myslíš toto všetko je humbuk, 1535 01:06:15,058 --> 01:06:17,582 sú tam miliardy na bilióny dolárov 1536 01:06:17,625 --> 01:06:21,107 do tvorby systémov AI výkonnejší. 1537 01:06:21,151 --> 01:06:23,849 A keď už tú vec budete mať to je silnejšie, 1538 01:06:23,892 --> 01:06:25,546 firmy to môžu využiť 1539 01:06:25,590 --> 01:06:27,548 získať väčšie zisky a zarobiť viac peňazí. 1540 01:06:27,592 --> 01:06:30,116 Krajiny to môžu využiť vytvoriť silnejšie armády. 1541 01:06:30,160 --> 01:06:32,814 NVIDIA predbehla Microsoft a Apple 1542 01:06:32,858 --> 01:06:36,253 stať sa svetovým najhodnotnejšia spoločnosť. 1543 01:06:36,296 --> 01:06:38,995 Preteky o nasadenie sa stávajú preteky k nerozvážnosti, 1544 01:06:39,038 --> 01:06:41,780 pretože nemôžu nasadiť to tak rýchlo 1545 01:06:41,823 --> 01:06:43,173 a tiež správne. 1546 01:06:43,216 --> 01:06:46,045 Oni tomu veria sú to dobrí chlapci. 1547 01:06:46,089 --> 01:06:49,309 "A ak to neurobím, niekto, kto nemá 1548 01:06:49,353 --> 01:06:51,572 „rovnako dobré hodnoty ako ja bude sedieť pri stole 1549 01:06:51,616 --> 01:06:54,445 rozhodovať sa, takže Mám povinnosť to urobiť." 1550 01:06:54,488 --> 01:06:56,186 Áno, toto je veľmi rozšírená viera. 1551 01:06:56,229 --> 01:06:58,579 Veľa, veľa, veľa, možno väčšina ľudí 1552 01:06:58,623 --> 01:07:00,712 budovanie tejto technológie tomu ver. 1553 01:07:00,755 --> 01:07:03,715 Mám obavy komerčná súťaž, 1554 01:07:03,758 --> 01:07:05,847 ale ukazuje sa Mám ešte väčšie obavy 1555 01:07:05,891 --> 01:07:08,024 geopolitická súťaž. 1556 01:07:08,067 --> 01:07:10,330 Zaostali sme o osem rokov pred rokom. 1557 01:07:10,374 --> 01:07:12,593 Teraz asi sme menej ako jeden rok pozadu. 1558 01:07:12,637 --> 01:07:15,683 Nuž, obe Saudskej Arábie a SAE pretekali 1559 01:07:15,727 --> 01:07:18,121 na zriadenie dátových centier a umiestniť sa 1560 01:07:18,164 --> 01:07:20,384 ako dominantná sila v AI... 1561 01:07:20,427 --> 01:07:22,429 ...vytvoriť Južnú Kóreu svetový líder AI. 1562 01:07:22,473 --> 01:07:23,996 JÚLIA SIEGEROVÁ: Francúzsky prezident Emmanuel Macron 1563 01:07:24,040 --> 01:07:25,867 veľa hovoril o umelá inteligencia... 1564 01:07:25,911 --> 01:07:27,434 Teraz viac o úlohe Izraela 1565 01:07:27,478 --> 01:07:29,610 v umelej inteligencii revolúcia... 1566 01:07:29,654 --> 01:07:33,092 Krajiny budú súťažiť pre ktorých technológie AI 1567 01:07:33,136 --> 01:07:34,876 vytvoriť ďalšiu generáciu priemyslu. 1568 01:07:34,920 --> 01:07:38,010 Číňania na tom trvajú tá AI, 1569 01:07:38,054 --> 01:07:39,838 ako sa vyvíja v Číne, 1570 01:07:39,881 --> 01:07:41,709 posilniť základné hodnoty 1571 01:07:41,753 --> 01:07:44,016 čínskej komunistickej strany a čínsky systém. 1572 01:07:44,060 --> 01:07:48,716 Amerika musí poraziť Čínu v pretekoch AI. 1573 01:07:48,760 --> 01:07:51,023 DANIEL: Čínske, ako napr. svetelné roky pozadu. 1574 01:07:51,067 --> 01:07:52,677 sú? 1575 01:07:52,720 --> 01:07:54,983 Teda, majú oveľa viac tréningové údaje ako my, 1576 01:07:55,027 --> 01:07:57,812 a oni nič nehovoria nevynechaj model budúci mesiac 1577 01:07:57,856 --> 01:08:00,946 to nie je... ani zďaleka neprevyšuje GPT-4. 1578 01:08:00,989 --> 01:08:03,818 Všetko išlo v pohode. Čo sa môže pokaziť? 1579 01:08:03,862 --> 01:08:06,691 -DeepSeek... [hovorí po čínsky] -DeepSeek... -DeepSeek... 1580 01:08:06,734 --> 01:08:08,040 Je tu nový model. 1581 01:08:08,084 --> 01:08:10,825 Ale z čínskeho laboratória s názvom DeepSeek. 1582 01:08:10,869 --> 01:08:13,959 Poďme sa porozprávať o DeepSeek, pretože je to ohromujúce, 1583 01:08:14,002 --> 01:08:17,658 a toto sa trasie celé odvetvie až po jeho jadro. 1584 01:08:17,702 --> 01:08:19,399 Trumpova administratíva zabezpečí 1585 01:08:19,443 --> 01:08:23,055 že najmocnejší Systémy AI sú postavené v USA 1586 01:08:23,099 --> 01:08:26,537 s americkým dizajnom a vyrábané čipy. 1587 01:08:26,580 --> 01:08:28,800 AI patrí Číne Projekt Apollo. 1588 01:08:28,843 --> 01:08:30,193 Čínska komunistická strana 1589 01:08:30,236 --> 01:08:31,542 hlboko chápe potenciál 1590 01:08:31,585 --> 01:08:32,891 aby AI narušila vedenie vojny. 1591 01:08:32,934 --> 01:08:35,328 Google už nesľubuje že nebude 1592 01:08:35,372 --> 01:08:38,418 používať umelú inteligenciu na zbrane alebo sledovanie. 1593 01:08:38,462 --> 01:08:40,028 Čína, Severná Kórea, Rusko 1594 01:08:40,072 --> 01:08:41,900 budu ho stavat dalej čo najrýchlejšie 1595 01:08:41,943 --> 01:08:44,511 získať väčšiu ekonomickú výhodu, väčšia výhoda produktivity, 1596 01:08:44,555 --> 01:08:46,818 väčšia vedecká výhoda, väčšia vojenská výhoda, 1597 01:08:46,861 --> 01:08:48,646 Pretože AI vyrába lepšie zbrane. 1598 01:08:48,689 --> 01:08:51,736 Ak hovoríte o systém ako široký a schopný 1599 01:08:51,779 --> 01:08:53,303 ako brilantný vedec, 1600 01:08:53,346 --> 01:08:57,959 mohlo by sa to dať spustiť vojenské ťaženie 1601 01:08:58,003 --> 01:09:01,441 lepší ako ktorýkoľvek z generálov v americkej vláde práve teraz. 1602 01:09:01,485 --> 01:09:05,489 Problém vytvára Taiwan momentálne najväčšie napätie 1603 01:09:05,532 --> 01:09:07,882 medzi Pekingom a USA. 1604 01:09:07,926 --> 01:09:10,450 Je tam a-a priamy opozičný nesúhlas 1605 01:09:10,494 --> 01:09:11,973 medzi USA a Čínou 1606 01:09:12,017 --> 01:09:13,975 o tom, či je Taiwan časť Číny. 1607 01:09:14,019 --> 01:09:18,415 MATHENY: Taiwan je dôležitý z toľkých dôvodov. 1608 01:09:18,458 --> 01:09:20,547 Je tiež domovom 1609 01:09:20,591 --> 01:09:24,160 asi 90 % pokročilého čipu výroba pre svet, 1610 01:09:24,203 --> 01:09:28,381 čo znamená, že zásoba reťazec pre pokročilé výpočty 1611 01:09:28,425 --> 01:09:31,036 je v ohrození by malo byť 1612 01:09:31,079 --> 01:09:32,951 nejaký scenár okolo Taiwanu, 1613 01:09:32,994 --> 01:09:37,999 či a-blokáda alebo invázia Číny. 1614 01:09:38,043 --> 01:09:40,698 HENDRYCKS: Budeme na nejakých pretekoch 1615 01:09:40,741 --> 01:09:45,616 medzi USA a Čínou ktorý sa nakoniec zvrhne do 1616 01:09:45,659 --> 01:09:49,359 militarizované preteky v zbrojení AI a viete, potenciálne vedie 1617 01:09:49,402 --> 01:09:51,274 k nejakému veľmocenskému konfliktu? 1618 01:09:51,317 --> 01:09:53,014 NICK SCHIFRIN: Odchádzajúci najvyšší vojenský veliteľ USA 1619 01:09:53,058 --> 01:09:55,843 v regióne predpovedal príchod vojny. 1620 01:09:55,887 --> 01:09:57,932 Myslím, že hrozba je zjavná počas tohto desaťročia, 1621 01:09:57,976 --> 01:09:59,456 v skutočnosti v nasledujúcich šiestich rokoch. 1622 01:09:59,499 --> 01:10:01,414 MATHENY: Hm, jeden zo scenárov 1623 01:10:01,458 --> 01:10:05,853 že sa obávam, je kybernetická blesková vojna, 1624 01:10:05,897 --> 01:10:10,902 hm, jeden v ktorom kybernetické nástroje, ktoré sú autonómne 1625 01:10:10,945 --> 01:10:12,947 súťažia medzi sebou 1626 01:10:12,991 --> 01:10:14,601 eskalačnými spôsobmi 1627 01:10:14,645 --> 01:10:16,386 bez zmysluplná ľudská kontrola. 1628 01:10:18,823 --> 01:10:20,433 HARARI: Žiješ vo vojnovej zóne, 1629 01:10:20,477 --> 01:10:23,784 bude o tom rozhodovať AI či bombardovať svoj dom 1630 01:10:23,828 --> 01:10:25,743 a či ťa zabiť. 1631 01:10:25,786 --> 01:10:27,527 Nechajte stroj rozhodnúť. 1632 01:10:27,571 --> 01:10:29,355 To je to pokušenie. 1633 01:10:29,399 --> 01:10:32,576 Preto je AI taká lákavá aby si ho armády osvojili, 1634 01:10:32,619 --> 01:10:35,753 vytvoriť autonómne zbrane, pretože ak začnem veriť 1635 01:10:35,796 --> 01:10:39,147 že môj vojenský protivník prijme AI, 1636 01:10:39,191 --> 01:10:41,802 budú to preteky, kto môže stlačte spúšť rýchlejšie. 1637 01:10:41,846 --> 01:10:44,892 A ten, ktorý automatizuje to rozhodnutie, 1638 01:10:44,936 --> 01:10:47,199 skôr ako mať človek v slučke, 1639 01:10:47,243 --> 01:10:49,201 je ten ktorý tú vojnu vyhrá. 1640 01:10:49,245 --> 01:10:50,637 A ak sa zamyslíte 1641 01:10:50,681 --> 01:10:53,074 preteky v jadrovom zbrojení v 40-tych rokoch... 1642 01:10:54,554 --> 01:10:56,556 ...poznáš Nemcov pracuje na bombe, 1643 01:10:56,600 --> 01:11:00,734 takže to nie je také ľahké povedať Robert Oppenheimer potom, 1644 01:11:00,778 --> 01:11:03,781 "Uh, vieš, spomaľ." 1645 01:11:03,824 --> 01:11:05,304 Takže po zhliadnutí tohto filmu, bude to mätúce, 1646 01:11:05,348 --> 01:11:06,653 pretože sa vrátiš späť, 1647 01:11:06,697 --> 01:11:08,307 a zajtra budete používať ChatGPT, 1648 01:11:08,351 --> 01:11:10,440 a bude to neuveriteľne užitočné. 1649 01:11:10,483 --> 01:11:12,703 A ja to tiež použijem a bude to neuveriteľne užitočné. 1650 01:11:12,746 --> 01:11:16,141 A ty povieš: „Počkaj, tak Práve som videl tento film o AI 1651 01:11:16,184 --> 01:11:18,012 „a existenčné riziko a všetky tieto veci, 1652 01:11:18,056 --> 01:11:20,624 a kde je zase tá hrozba?" 1653 01:11:20,667 --> 01:11:24,715 A nie je to tak, že ChatGPT je existenčnú hrozbu. 1654 01:11:24,758 --> 01:11:28,675 Ide o preteky v nasadení najmocnejší, 1655 01:11:28,719 --> 01:11:31,635 nevyspytateľný, nekontrolovateľná technológia, 1656 01:11:31,678 --> 01:11:35,116 pod tým najhorším možné stimuly, 1657 01:11:35,160 --> 01:11:37,031 to je existenčná hrozba. 1658 01:11:38,119 --> 01:11:40,383 DANIEL: Ale napadá ma, že-to 1659 01:11:40,426 --> 01:11:43,211 sme v kontexte rasy. 1660 01:11:43,255 --> 01:11:45,910 -SUTSKEVER: Áno. - A je to v súťaži, 1661 01:11:45,953 --> 01:11:47,651 „Musím sa tam dostať ako prvý, nastavenie „musím vyhrať preteky“, 1662 01:11:47,694 --> 01:11:49,000 „Musím súťažiť s Čínou, 1663 01:11:49,043 --> 01:11:50,349 musí súťažiť ostatné laboratóriá." 1664 01:11:50,393 --> 01:11:51,829 nie je to tak? 1665 01:11:51,872 --> 01:11:53,657 Dnes je to tak. 1666 01:11:53,700 --> 01:11:56,703 Takže sa musíme zmeniť tú dynamiku pretekov. 1667 01:11:57,922 --> 01:11:59,924 nemyslíš? 1668 01:11:59,967 --> 01:12:02,187 Myslím, že by to tak bolo fakt velmi dobre. 1669 01:12:03,710 --> 01:12:06,496 Ja-myslím existuje nejaký druh... 1670 01:12:06,539 --> 01:12:09,542 mysticizmus okolo AI to dáva pocit 1671 01:12:09,586 --> 01:12:11,718 spadlo to z neba. 1672 01:12:11,762 --> 01:12:13,459 DANIEL: Na toto myslím ako božská technológia 1673 01:12:13,503 --> 01:12:15,418 je problém. 1674 01:12:15,461 --> 01:12:16,897 Áno. 1675 01:12:18,072 --> 01:12:19,900 prečo? 1676 01:12:19,944 --> 01:12:22,990 Dáva licenciu do spoločností, aby... 1677 01:12:23,034 --> 01:12:26,254 [smiech] neniesť zodpovednosť 1678 01:12:26,298 --> 01:12:30,781 za veci, ktoré softvér ktoré postavili. 1679 01:12:30,824 --> 01:12:35,089 Ak by ľudia vytvorili toto spojenie, 1680 01:12:35,133 --> 01:12:37,527 možno by to bolo napr. pomôcť im znova pochopiť 1681 01:12:37,570 --> 01:12:41,835 dynamika všetky peniaze a moc... 1682 01:12:41,879 --> 01:12:45,317 chaos, ktorý sa deje... 1683 01:12:45,361 --> 01:12:47,101 vytvoriť túto technológiu. 1684 01:12:47,145 --> 01:12:49,234 Je to asi päť chlapov kto to kontroluje, nie? 1685 01:12:49,277 --> 01:12:51,628 -Asi päť mužov? -V podstate áno. 1686 01:12:51,671 --> 01:12:53,847 - Generálni riaditelia? -Áno. 1687 01:12:53,891 --> 01:12:55,371 Dobre. 1688 01:12:56,720 --> 01:12:58,722 ♪ ♪ 1689 01:13:01,072 --> 01:13:03,074 DANIEL: Niekedy mi to pripadá ako 1690 01:13:03,117 --> 01:13:07,252 Bol som na tom proste nekonečná cesta 1691 01:13:07,295 --> 01:13:09,341 v snahe pochopiť toto. 1692 01:13:09,385 --> 01:13:12,388 Vieš, ako Leziem na horu... 1693 01:13:15,608 --> 01:13:19,133 ...a zakaždým Rád sa dostanem na kopec, 1694 01:13:19,177 --> 01:13:20,744 Myslím, že som dosiahol vrchol, 1695 01:13:20,787 --> 01:13:23,399 ale ide to ďalej a ísť a ísť. 1696 01:13:23,442 --> 01:13:24,530 [kliknutie fotoaparátu, bzukot] 1697 01:13:24,574 --> 01:13:26,967 Ale zo všetkého, čo som počul, 1698 01:13:27,011 --> 01:13:30,362 keby som mal hádať čo na vrchole hory úzkosti, 1699 01:13:30,406 --> 01:13:34,192 je to týchto päť generálnych riaditeľov z týchto piatich spoločností, 1700 01:13:34,235 --> 01:13:37,630 ktorí sú niečo ako Oppenheimovci tejto chvíle. 1701 01:13:37,674 --> 01:13:39,458 Toto sú chlapi ktorí túto vec budujú. 1702 01:13:39,502 --> 01:13:40,807 Áno. 1703 01:13:40,851 --> 01:13:44,158 Napríklad, existuje plán? 1704 01:13:44,202 --> 01:13:46,422 Vedúci spoločnosti to robí ChatGPT 1705 01:13:46,465 --> 01:13:49,947 varoval pred možným značná škoda pre svet. 1706 01:13:49,990 --> 01:13:52,384 Myslím, že ak táto technológia pokazí sa, 1707 01:13:52,428 --> 01:13:53,472 môže sa to celkom pokaziť. 1708 01:13:53,516 --> 01:13:55,779 [výbuchy zreteľného štebotania] 1709 01:13:55,822 --> 01:13:57,781 DANIEL: Päť chalanov. 1710 01:13:57,824 --> 01:14:01,567 Nikdy som o nás nerozmýšľal ako spoločnosť sociálnych médií. 1711 01:14:01,611 --> 01:14:06,050 Je to pocit, že to musím skúsiť a nájsť týchto ľudí... 1712 01:14:06,093 --> 01:14:07,181 Mm-hmm. 1713 01:14:07,225 --> 01:14:09,009 ...a dostať ich do filmu. 1714 01:14:10,315 --> 01:14:12,622 Určite by sme dostali nejaká jasnosť z toho. 1715 01:14:13,666 --> 01:14:14,928 [kliknutie fotoaparátu, bzukot] 1716 01:14:16,582 --> 01:14:19,150 Chcem povedať, že dolár sa musí zastaviť niekde, nie? 1717 01:14:19,193 --> 01:14:21,152 [hvízdanie vetra] 1718 01:14:21,195 --> 01:14:22,936 ♪ ♪ 1719 01:14:23,981 --> 01:14:25,896 [nástroje bzučia a klikajú] 1720 01:14:27,071 --> 01:14:29,116 [pískanie] 1721 01:14:34,034 --> 01:14:35,296 DANIEL: Aký je to pocit? 1722 01:14:35,340 --> 01:14:37,690 -Skvelé. - To je v poriadku? 1723 01:14:37,734 --> 01:14:39,431 -Áno. -[nezreteľné bľabotanie posádky] 1724 01:14:39,475 --> 01:14:40,998 -Môžem si posunúť sedadlo dopredu? -DANIEL: Áno, môžete. 1725 01:14:41,041 --> 01:14:42,173 Je to, uh, to je proste trochu trápne. 1726 01:14:42,216 --> 01:14:43,566 Som malý, ako... 1727 01:14:43,609 --> 01:14:45,045 Dario, ako sa cítiš? o tej stoličke? 1728 01:14:45,089 --> 01:14:47,004 Hm, áno, stolička je dobrá. 1729 01:14:47,047 --> 01:14:48,832 -Len som to chcel posunúť trochu dopredu. -Dobre. 1730 01:14:48,875 --> 01:14:50,529 Vybral som si tú stoličku. 1731 01:14:50,573 --> 01:14:52,139 -Je to dobrá stolička. -Ďakujem. 1732 01:14:52,183 --> 01:14:53,619 [zvoní mobil] 1733 01:14:57,884 --> 01:14:59,495 TED: A len si tam sadnite. 1734 01:15:01,409 --> 01:15:03,063 A potom cez tu, 1735 01:15:03,107 --> 01:15:04,369 budeme sa na seba pozerať cez toto sklo. 1736 01:15:04,412 --> 01:15:06,458 [pípanie signálu obsadenia] 1737 01:15:11,419 --> 01:15:13,552 A sadnúť si späť do kresla, predkloniť sa? 1738 01:15:13,596 --> 01:15:15,119 -DANIEL: Áno. No, čokoľvek pohodlné, myslím. -Dobre. 1739 01:15:15,162 --> 01:15:16,686 Je to v pohode. Je tam kopa zrkadiel. 1740 01:15:16,729 --> 01:15:17,817 -Je to-- v poriadku. -ŽENA: Sam A., vezmi si jeden. Marka. 1741 01:15:17,861 --> 01:15:19,515 -Ako to? - Dobre. dakujem. 1742 01:15:19,558 --> 01:15:21,038 DANIEL: Genéza tohto projektu je, že som bol 1743 01:15:21,081 --> 01:15:22,822 sedieť doma, a hral som sa s, 1744 01:15:22,866 --> 01:15:24,389 Myslím, že váš generátor obrázkov, 1745 01:15:24,432 --> 01:15:27,261 a zároveň som bol, uh, vydesený 1746 01:15:27,305 --> 01:15:29,437 - a naozaj dojem. -[jemne sa smeje] 1747 01:15:29,481 --> 01:15:31,875 - To je bežná kombinácia. -A potom strihajte 1748 01:15:31,918 --> 01:15:34,617 zisťujeme s manželkou očakávame. 1749 01:15:34,660 --> 01:15:38,272 A ja mám existenčná kríza 1750 01:15:38,316 --> 01:15:40,231 ako moja žena v šiestom mesiaci tehotenstva. 1751 01:15:40,274 --> 01:15:42,929 A myslím, že moja prvá otázka, na čo sa každého pýtam: 1752 01:15:42,973 --> 01:15:45,453 Teraz je hrozná doba mať dieťa? 1753 01:15:45,497 --> 01:15:47,368 Robím veľkú chybu? 1754 01:15:47,412 --> 01:15:49,022 Čakám dieťa aj v marci. Môj prvý. 1755 01:15:49,066 --> 01:15:50,502 -Čakáš dieťa? -Áno. 1756 01:15:50,546 --> 01:15:51,808 - Čakáte v marci? - Prvé dieťa. 1757 01:15:51,851 --> 01:15:53,287 -Mazel tov. -Ďakujem pekne. 1758 01:15:53,331 --> 01:15:54,462 Nikdy som nebola taká nadšená na čokoľvek. 1759 01:15:54,506 --> 01:15:56,464 -Tak sa cítim. -Áno. 1760 01:15:56,508 --> 01:15:58,205 Ale ty sa nebojíš? 1761 01:15:58,249 --> 01:16:02,732 Teda mať dieťa je len táto významná vec 1762 01:16:02,775 --> 01:16:04,995 že ja, vieš, Zostávam hore každú noc, napr. 1763 01:16:05,038 --> 01:16:06,823 o čítaní týchto kníh ako vychovať dieťa, 1764 01:16:06,866 --> 01:16:08,215 a dúfam Urobím dobrú prácu, 1765 01:16:08,259 --> 01:16:09,260 a cíti sa veľmi ohromujúce a-- 1766 01:16:09,303 --> 01:16:12,045 ale ja sa nebojim... 1767 01:16:12,089 --> 01:16:14,047 aby deti vyrástli vo svete s AI. 1768 01:16:14,091 --> 01:16:16,310 To je... to bude v poriadku. 1769 01:16:16,354 --> 01:16:19,009 To je dobré počuť pochádzajúce od chlapa. 1770 01:16:19,052 --> 01:16:20,750 Podľa mňa je to úžasný nápad mať deti. 1771 01:16:20,793 --> 01:16:23,230 Myslím, že sú najviac magická, neuveriteľná vec. 1772 01:16:23,274 --> 01:16:25,276 [ťažko si povzdychne] - Je tam toľko neistoty, 1773 01:16:25,319 --> 01:16:26,843 Skoro by som to urobil čo aj tak urobíš. 1774 01:16:26,886 --> 01:16:28,932 Viem, že nie veľmi uspokojivá odpoveď, 1775 01:16:28,975 --> 01:16:31,891 ale je to jediné viem vymyslieť. 1776 01:16:31,935 --> 01:16:34,459 Naše deti nikdy nebudú... 1777 01:16:34,502 --> 01:16:37,070 poznať svet, ktorý nemá skutočne pokročilá AI. 1778 01:16:37,114 --> 01:16:39,856 V skutočnosti naše deti nikdy nebudú byť múdrejší ako AI. 1779 01:16:39,899 --> 01:16:42,075 DANIEL: „Naše deti budú nikdy nebuď múdrejší ako AI“? 1780 01:16:42,119 --> 01:16:44,338 No zo surového, z pohľadu surového IQ, 1781 01:16:44,382 --> 01:16:46,253 nikdy nebudú múdrejší ako AI. 1782 01:16:46,297 --> 01:16:48,038 Táto predstava nie trochu ťa znepokojuje? 1783 01:16:48,081 --> 01:16:51,128 Pretože to vo mne vyvoláva pocit trochu nevoľno zvláštnym spôsobom. 1784 01:16:51,171 --> 01:16:54,784 Hm, znepokojuje ma to trochu. 1785 01:16:54,827 --> 01:16:56,263 Ale je to realita. 1786 01:16:56,307 --> 01:16:58,265 DANIEL: Dobre, takže dynamika pretekov. 1787 01:16:58,309 --> 01:17:01,007 Máme kopu ľudí ktorí sa všetci zhodujú 1788 01:17:01,051 --> 01:17:02,879 že toto je strašné. 1789 01:17:02,922 --> 01:17:04,750 Na základe časových plánov, ktoré veľa ľudí mi dalo, 1790 01:17:04,794 --> 01:17:07,013 máme medzi dvoma mesiacmi a päť rokov na to, aby sme to zistili. 1791 01:17:07,057 --> 01:17:08,667 -Áno. -A hádam, 1792 01:17:08,711 --> 01:17:12,845 moja najväčšia otázka je: Prečo nemôžeme prestať? 1793 01:17:14,499 --> 01:17:19,069 Problém s, uh, uh, "len zastavenie" je to, um, 1794 01:17:19,112 --> 01:17:22,202 teraz je veľa, veľa skupín po celom svete, uh, uh, 1795 01:17:22,246 --> 01:17:25,684 budovanie tohto, pre mnoho národov, mnoho spoločností, 1796 01:17:25,728 --> 01:17:28,121 hm, všetko s rôzne motivácie. 1797 01:17:28,165 --> 01:17:30,776 Existujú niektoré z tieto spoločnosti v tomto priestore 1798 01:17:30,820 --> 01:17:33,997 kto je ich postoj, „Chceme rozvíjať túto technológiu 1799 01:17:34,040 --> 01:17:36,042 čo najrýchlejšie." 1800 01:17:36,086 --> 01:17:40,046 A aj keby sme mohli prijímať zákony v USA a v Európe, 1801 01:17:40,090 --> 01:17:42,396 musíme presvedčiť... 1802 01:17:42,440 --> 01:17:44,964 Si Ťin-pching a Vladimir Putin alebo vieš, 1803 01:17:45,008 --> 01:17:47,445 ktokoľvek ich vedecký poradcovia sú na ich strane. 1804 01:17:47,488 --> 01:17:49,229 To bude naozaj ťažké. 1805 01:17:49,273 --> 01:17:50,927 Myslím, že je to pravda 1806 01:17:50,970 --> 01:17:53,581 že ak sú dvaja ľudia presne na tom istom mieste, 1807 01:17:53,625 --> 01:17:55,888 uh, ten, kto je ochotný vziať viac skratiek pre bezpečnosť 1808 01:17:55,932 --> 01:17:58,064 by malo byť "dostaň sa tam prvý." 1809 01:17:58,108 --> 01:18:01,067 No ale... 1810 01:18:01,111 --> 01:18:02,939 sme schopní využiť náš náskok 1811 01:18:02,982 --> 01:18:05,985 stráviť oveľa viac času robiť bezpečnostné testy. 1812 01:18:06,029 --> 01:18:07,987 DANIEL: A čo ak ho stratíte? 1813 01:18:08,031 --> 01:18:09,597 Dostanete hovor a dozviete sa 1814 01:18:09,641 --> 01:18:11,687 že si teraz, povedzme, šesť mesiacov pozadu. 1815 01:18:11,730 --> 01:18:14,254 -Č-Čo sa stane potom? - Podľa toho, za kým sme pozadu. 1816 01:18:14,298 --> 01:18:16,822 Ak je to napr. kontradiktórna vláda, 1817 01:18:16,866 --> 01:18:18,824 to je asi fakt zle. 1818 01:18:18,868 --> 01:18:21,348 Povedzme teda, že dostanete hovor že Čína má, 1819 01:18:21,392 --> 01:18:24,787 má rekurzívne sebazlepšujúci prostriedok 1820 01:18:24,830 --> 01:18:27,180 alebo niečo také, že my treba sa naozaj obávať. 1821 01:18:27,224 --> 01:18:29,226 Čo robiť-- čo-čo sa stane? 1822 01:18:30,967 --> 01:18:32,403 hm... 1823 01:18:35,406 --> 01:18:37,234 Takýto prípad by si vyžadoval... 1824 01:18:37,277 --> 01:18:40,672 tam by bol prvý krok hovoriť s vládou USA. 1825 01:18:40,716 --> 01:18:42,935 Sam, veríš? schopnosť vlády zvládnuť 1826 01:18:42,979 --> 01:18:44,676 niečo takéto? 1827 01:18:45,895 --> 01:18:47,766 Áno, vlastne áno. 1828 01:18:47,810 --> 01:18:49,550 Sú iné veci, ktoré nie veriť vláde, že to zvládne, 1829 01:18:49,594 --> 01:18:51,161 ale ten konkrétny scenár, Myslím, že by vedeli... 1830 01:18:51,204 --> 01:18:52,771 oni-oni-- áno. 1831 01:18:52,815 --> 01:18:54,425 DANIEL: Keď máš, ako súkromné diskusie 1832 01:18:54,468 --> 01:18:56,383 s ostatnými chlapmi, ktorých prsty sú na spúšti, 1833 01:18:56,427 --> 01:18:59,604 tak povediac, hm, robiť tie súkromné diskusie 1834 01:18:59,647 --> 01:19:01,301 naplní vás dôverou 1835 01:19:01,345 --> 01:19:03,347 alebo robia z teba, Uh, viac úzkosti? 1836 01:19:03,390 --> 01:19:07,090 Pozri, myslím, ja-poznám nejaké z nich lepší ako ostatní. 1837 01:19:07,133 --> 01:19:10,136 Hm, mám väčšiu dôveru v niektorých z nich th-než mám 1838 01:19:10,180 --> 01:19:12,356 v iných, vieš, ako so všetkými ľuďmi. 1839 01:19:12,399 --> 01:19:14,140 vieš, premýšľaš, vieš, 1840 01:19:14,184 --> 01:19:15,838 deti na vašej strednej škole trieda alebo čo, nie? 1841 01:19:15,881 --> 01:19:18,275 Viete, niektorí z nich sú, vieš, naozaj milé. 1842 01:19:18,318 --> 01:19:20,407 Niektoré z nich sú mienené dobre ale nie také efektívne. 1843 01:19:20,451 --> 01:19:22,366 Niektoré z nich sú, viete, tyrani. 1844 01:19:22,409 --> 01:19:23,759 Niektoré z nich sú naozaj zlí ľudia. 1845 01:19:23,802 --> 01:19:25,673 [koktanie] Ty-si tak trochu naozaj, 1846 01:19:25,717 --> 01:19:27,066 naozaj vidíte šírenie. 1847 01:19:27,110 --> 01:19:28,807 Vieš, som, som, som si istý? 1848 01:19:28,851 --> 01:19:30,548 že to urobí každý správna vec, 1849 01:19:30,591 --> 01:19:32,028 ze to vsetko vyjde? 1850 01:19:32,071 --> 01:19:33,856 Hm, nie, nie som. 1851 01:19:33,899 --> 01:19:35,509 A nie je nič Môžem s tým urobiť, nie? 1852 01:19:35,553 --> 01:19:37,773 Vieš, všetko, čo môžem urobiť je-je tlak na, 1853 01:19:37,816 --> 01:19:39,165 tlačiť na, vieš, 1854 01:19:39,209 --> 01:19:40,776 tlačiť do vlády zapojiť sa. 1855 01:19:40,819 --> 01:19:42,647 Ale nakoniec som len je tam aj jedna osoba. 1856 01:19:42,690 --> 01:19:44,127 To je... je to na nás všetkých 1857 01:19:44,170 --> 01:19:46,042 tlačiť na vládu zapojiť sa. 1858 01:19:46,085 --> 01:19:48,479 To je číslo jedna to-to si myslím, že musíme urobiť 1859 01:19:48,522 --> 01:19:50,916 to-to, viete, nastaviť veci správnym smerom. 1860 01:19:50,960 --> 01:19:52,744 Čo ma znepokojuje o tom je napr. 1861 01:19:52,788 --> 01:19:56,182 základná realita, že rýchlosť, akou technológia 1862 01:19:56,226 --> 01:19:58,402 sa množí a rastie je exponenciálny, 1863 01:19:58,445 --> 01:20:01,448 a legislatívne mechanizmy majú 300 rokov, 1864 01:20:01,492 --> 01:20:02,928 - brať navždy. -Áno. 1865 01:20:02,972 --> 01:20:05,104 Hm, myslím bude to ťažký ťahák. 1866 01:20:05,148 --> 01:20:06,889 Ja-určite súhlasím s tebou v tom. 1867 01:20:06,932 --> 01:20:08,891 DANIEL: Vieš, čo doslova hľadám 1868 01:20:08,934 --> 01:20:11,241 je-je ako, "Tu sú kroky, ako napr. 1869 01:20:11,284 --> 01:20:15,158 "Hlavné honchos budú." zamerať sa na bezpečnosť, 1870 01:20:15,201 --> 01:20:18,117 na zmiernenie nebezpečenstva a maximalizovať sľub." 1871 01:20:18,161 --> 01:20:20,119 a ja nie, ja nie, neviem 1872 01:20:20,163 --> 01:20:21,817 že tam je na to jednoduchá odpoveď. 1873 01:20:21,860 --> 01:20:23,296 hm... 1874 01:20:25,951 --> 01:20:27,561 Teda, toto možno je príliš jednoduché, 1875 01:20:27,605 --> 01:20:30,173 ale ty... 1876 01:20:30,216 --> 01:20:31,957 vytvoriť nový model, 1877 01:20:32,001 --> 01:20:34,786 študuješ a skúšaš veľmi opatrne. 1878 01:20:34,830 --> 01:20:37,223 Dal si to von do sveta postupne, 1879 01:20:37,267 --> 01:20:39,530 a potom stále viac a viac, rozumieš 1880 01:20:39,573 --> 01:20:41,227 či je to bezpečné alebo nie, a potom ak je, 1881 01:20:41,271 --> 01:20:42,707 môžete urobiť ďalší krok. 1882 01:20:44,404 --> 01:20:47,103 Neznie to tak okázalo ako brilantný vedec 1883 01:20:47,146 --> 01:20:50,454 prísť s jedným nápadom v a laboratórium na vytvorenie systému AI, napr. 1884 01:20:50,497 --> 01:20:53,979 dokonale bezpečné a ovládateľné a všetko ostatné, 1885 01:20:54,023 --> 01:20:55,720 ale tomu verím sa stane. 1886 01:20:55,763 --> 01:20:57,287 Ako, to je cesta Myslím, že toto funguje. 1887 01:20:57,330 --> 01:20:59,289 Ale povedzme si stane sa niečo hrozné, 1888 01:20:59,332 --> 01:21:01,813 ako sa modelka uvoľní alebo sa zblázni alebo čo. 1889 01:21:01,857 --> 01:21:03,467 Existuje protokol? 1890 01:21:03,510 --> 01:21:05,817 Ako doslova, Predstavujem si červený telefón. 1891 01:21:05,861 --> 01:21:07,123 -Áno. - Prepáčte, že na to myslím 1892 01:21:07,166 --> 01:21:08,515 čo sa týka filmov, ale napr. 1893 01:21:08,559 --> 01:21:09,995 Existuje protokol. 1894 01:21:10,039 --> 01:21:11,475 -Je tam červený telefón? na tvojom stole? -Nie. 1895 01:21:11,518 --> 01:21:13,216 [smiech]: je to tajomstvo? 1896 01:21:13,259 --> 01:21:15,392 Teda, uh, nie, nie je, nie je to také fantastické alebo dramatické 1897 01:21:15,435 --> 01:21:17,176 ako by si dúfal, ale je tu ako, vieš... 1898 01:21:17,220 --> 01:21:18,874 premysleli sme to tieto scenáre, 1899 01:21:18,917 --> 01:21:20,527 a ak sa toto stane, zavoláme týchto ľudí 1900 01:21:20,571 --> 01:21:21,964 v tomto poradí a urobte toto 1901 01:21:22,007 --> 01:21:23,443 a druh značky tieto rozhodnutia, ak napr. 1902 01:21:23,487 --> 01:21:26,055 Ja tomu verím keď máš príležitosť 1903 01:21:26,098 --> 01:21:29,058 premýšľať predtým nastane stresová situácia, 1904 01:21:29,101 --> 01:21:30,407 to je skoro vždy dobrý nápad. 1905 01:21:30,450 --> 01:21:31,756 A napísať si to je užitočné. 1906 01:21:31,799 --> 01:21:33,279 - Byť pripravený je užitočné. -Áno. 1907 01:21:34,324 --> 01:21:36,021 [vzdychne] Ty... 1908 01:21:36,065 --> 01:21:38,763 Bolo by to nemožné aby som sedel oproti tebe 1909 01:21:38,806 --> 01:21:41,157 a - a žiadam ťa, aby si mi to sľúbil ze to dobre dopadne? 1910 01:21:41,200 --> 01:21:43,855 To je nemožné. 1911 01:21:43,899 --> 01:21:45,683 Neexistujú jednoduché odpovede, bohužiaľ. 1912 01:21:45,726 --> 01:21:48,077 Uh, pretože je to tak špičková technológia, 1913 01:21:48,120 --> 01:21:49,774 hm, stále je veľa neznámych. 1914 01:21:49,817 --> 01:21:52,255 A to si myslím to-to musí byť, 1915 01:21:52,298 --> 01:21:55,040 hm, vieš, pochopil som 1916 01:21:55,084 --> 01:21:58,957 a teda potreba pre, uh, uh, trochu opatrnosti. 1917 01:21:59,001 --> 01:22:00,872 Vstávam, vieš, každý deň, 1918 01:22:00,916 --> 01:22:03,440 toto je, toto je číslo jedna, na ktorú myslím. 1919 01:22:03,483 --> 01:22:05,137 Teraz, pozri, som človek, 1920 01:22:05,181 --> 01:22:08,358 a, viete, má-má každé rozhodnutie bolo dokonalé? 1921 01:22:08,401 --> 01:22:11,622 Môžem dokonca povedať svoju motiváciu boli vždy úplne jasné? 1922 01:22:11,665 --> 01:22:13,537 Samozrejme, že nie. To nemôže povedať nikto. 1923 01:22:13,580 --> 01:22:16,366 Ako, to je-to je len nie, ako vieš... 1924 01:22:16,409 --> 01:22:18,629 to je-to jednoducho nie ako ľudia pracujú. 1925 01:22:18,672 --> 01:22:21,023 Dejiny vedy má tendenciu byť, 1926 01:22:21,066 --> 01:22:23,547 v dobrom aj v zlom, ak sa dá niečo urobiť... 1927 01:22:23,590 --> 01:22:26,985 a teraz vieme, že AI je možná robiť-- robí to ľudstvo. 1928 01:22:27,029 --> 01:22:29,727 Toto všetko sa malo stať. 1929 01:22:29,770 --> 01:22:32,295 Tento-tento vlak sa nezastaví. 1930 01:22:32,338 --> 01:22:34,253 Nemôžete ísť pred vlak a zastavte ho. 1931 01:22:34,297 --> 01:22:36,255 Len sa pomrvíš. 1932 01:22:36,299 --> 01:22:38,388 ALTMAN: Je to veľmi stresujúce. 1933 01:22:39,606 --> 01:22:41,043 Vieš, je tam napr. 1934 01:22:41,086 --> 01:22:42,653 veľa vecí mnohí z nás nevedia. 1935 01:22:42,696 --> 01:22:46,352 Myslím, že história vedeckého objavu je 1936 01:22:46,396 --> 01:22:48,267 jeden z nevedomosti čo nevieš 1937 01:22:48,311 --> 01:22:49,660 a zisťovanie za pochodu. 1938 01:22:49,703 --> 01:22:52,968 Uh, ale áno, je to... 1939 01:22:53,011 --> 01:22:56,580 je to stresujúci spôsob života. 1940 01:22:56,623 --> 01:22:58,756 DANIEL: Správne. Sam, ďakujem veľmi veľa za to. 1941 01:22:58,799 --> 01:23:00,497 -A zase mazel tov. -Ďakujem. A tebe. 1942 01:23:00,540 --> 01:23:02,673 dakujem pekne. Vďaka, chlapci. 1943 01:23:02,716 --> 01:23:05,458 ♪ ♪ 1944 01:23:07,678 --> 01:23:08,984 [vzdychne] 1945 01:23:10,986 --> 01:23:13,162 [praskajúca elektrina] 1946 01:23:13,205 --> 01:23:15,599 -[praskanie hromu] -[pískanie, chrčanie] 1947 01:23:42,626 --> 01:23:44,628 -[VCR kliknutia] -[zvonenie linky] 1948 01:23:47,848 --> 01:23:49,285 -[kliknutia na riadok] -KEVIN ROHER: Dobrý deň. 1949 01:23:49,328 --> 01:23:50,547 DANIEL: Hej, ocko, ako sa máš? 1950 01:23:50,590 --> 01:23:51,591 KEVIN: Dobre. ako sa máš? 1951 01:23:51,635 --> 01:23:53,071 Ty pracuješ? čo chystáš? 1952 01:23:53,115 --> 01:23:55,247 DANIEL: Pracujem na tomto filme o AI. 1953 01:23:55,291 --> 01:23:57,815 KEVIN: A ako to ide? 1954 01:23:57,858 --> 01:24:00,426 DANIEL: Vieš, je to naozaj... 1955 01:24:00,470 --> 01:24:02,167 -JOANNE ROHER: Ahoj zlatko. -DANIEL: Ahoj, mami. 1956 01:24:02,211 --> 01:24:03,864 JOANNE: Tak čo je premisa filmu? 1957 01:24:03,908 --> 01:24:06,519 Je to dokumentárny film? Kev, už nepoužívaj korenie. 1958 01:24:06,563 --> 01:24:08,304 Už je to prekorenené. 1959 01:24:08,347 --> 01:24:10,436 Práve robíme kura. 1960 01:24:10,480 --> 01:24:12,612 - Je to dokument alebo čo... -DANIEL: Ide o... 1961 01:24:12,656 --> 01:24:13,961 film je o koniec sveta. 1962 01:24:14,005 --> 01:24:15,789 Prichádza koniec sveta, 1963 01:24:15,833 --> 01:24:17,574 a robíme film o konci sveta. 1964 01:24:17,617 --> 01:24:19,837 -JOANNE: Naozaj? -DANIEL: Áno. 1965 01:24:19,880 --> 01:24:21,578 KEVIN: Trochu depresívne film, znie to tak. 1966 01:24:21,621 --> 01:24:23,449 JOANNE: Áno. 1967 01:24:23,493 --> 01:24:28,976 DANIEL: Veľmi sa cítim, ako... táto veľmi akútna úzkosť. 1968 01:24:29,020 --> 01:24:31,370 JOANNE: Je to také strašidelné, ale musí tam byť... 1969 01:24:31,414 --> 01:24:35,287 viete, stretli ste sa niektorí-niektorí superinteligentní ľudia 1970 01:24:35,331 --> 01:24:37,768 ktoré ti dajú nejaké odpovede? 1971 01:24:37,811 --> 01:24:39,465 DANIEL: To je ono frustrujúce z toho. 1972 01:24:39,509 --> 01:24:41,337 Nikto nevie. 1973 01:24:41,380 --> 01:24:43,904 JOANNE: K tomu môžem povedať len toľko 1974 01:24:43,948 --> 01:24:49,867 mala každá generácia niečo také strašidelné. 1975 01:24:49,910 --> 01:24:52,217 KEVIN: Keď som sa narodil, bolo to tak kubánska raketová kríza. 1976 01:24:52,261 --> 01:24:54,263 [stály tlkot srdca] 1977 01:24:54,306 --> 01:24:56,352 Len som sa tam toho bál mala to byť jadrová vojna. 1978 01:24:56,395 --> 01:24:57,744 JOANNE: Áno, ale nevedeli sme 1979 01:24:57,788 --> 01:24:59,094 čo budú robiť a... 1980 01:24:59,137 --> 01:25:00,530 KEVIN: A svet sa neskončil. 1981 01:25:00,573 --> 01:25:01,618 Všetci sa zobudili nasledujúce ráno, 1982 01:25:01,661 --> 01:25:03,402 a stále si robíme svoje. 1983 01:25:03,446 --> 01:25:04,969 DANIEL: Veľmi sa bojím, 1984 01:25:05,012 --> 01:25:06,840 najmä v kontext napr. 1985 01:25:06,884 --> 01:25:09,147 -Vieš, dieťa a... -[pulzujúci srdcový tep plodu] 1986 01:25:09,191 --> 01:25:10,540 KEVIN: Bude to krivka učenia. 1987 01:25:10,583 --> 01:25:12,063 JOANNE: Budeš v poriadku. 1988 01:25:12,107 --> 01:25:13,064 KEVIN: Nemôžeš, nemôžeš rozmýšľať 1989 01:25:13,108 --> 01:25:14,326 čo nemôžeš ovládať, Daniel. 1990 01:25:14,370 --> 01:25:16,154 Len si to zapamätaj. 1991 01:25:16,198 --> 01:25:17,677 DANIEL [lámanie hlasu]: Naozaj, naozaj sa cítim 1992 01:25:17,721 --> 01:25:19,201 nervózny a vystrašený z toho. 1993 01:25:19,244 --> 01:25:21,028 Je toho veľa že neviem ovládať. 1994 01:25:21,072 --> 01:25:23,857 KEVIN: Nebuď nervózny. To nesmieš dopustiť. 1995 01:25:23,901 --> 01:25:26,251 Môžete len ovládať čo môžeš ovládať, 1996 01:25:26,295 --> 01:25:27,905 a to je všetko, čo môžete urobiť. 1997 01:25:27,948 --> 01:25:30,603 Nemôžete urobiť viac ako to. 1998 01:25:30,647 --> 01:25:32,649 Zapíšte si to do knihy. 1999 01:25:35,347 --> 01:25:36,870 ♪ ♪ 2000 01:25:44,095 --> 01:25:46,663 [pulzujúci srdcový tep plodu] 2001 01:25:46,706 --> 01:25:49,231 [vytie] 2002 01:25:49,274 --> 01:25:51,581 CAROLINE: Keď sa pozrieš späť, 2003 01:25:51,624 --> 01:25:54,453 svet je vždy koniec. 2004 01:25:54,497 --> 01:25:56,803 A keď sa pozriete dopredu, 2005 01:25:56,847 --> 01:25:59,241 svet je vždy koniec. 2006 01:25:59,284 --> 01:26:02,157 ...v plameňoch. Jeden dom už horí... 2007 01:26:02,200 --> 01:26:05,377 CAROLINE: Ale svet tiež vždy začína. 2008 01:26:07,988 --> 01:26:09,947 DANIEL: si pripravený? 2009 01:26:09,990 --> 01:26:11,992 Si niekedy naozaj pripravený? 2010 01:26:15,909 --> 01:26:17,650 DANIEL: Chceš šoférovať alebo chceš, aby som šoféroval? 2011 01:26:17,694 --> 01:26:18,782 CAROLINE: Ty šoféruješ. 2012 01:26:20,479 --> 01:26:21,828 [žena hovorí nezreteľne] -CAROLINE: Dobre. 2013 01:26:21,872 --> 01:26:23,700 DANIEL: Ďakujem, Mária. 2014 01:26:23,743 --> 01:26:26,268 ŽENA: Bude to tak cítiť sa naozaj kŕčovito. 2015 01:26:26,311 --> 01:26:27,791 -CAROLINE: Dobre. -ŽENA: Si pripravený? 2016 01:26:27,834 --> 01:26:29,053 -CAROLINE: Áno. -[nezreteľné bľabotanie] 2017 01:26:29,096 --> 01:26:30,924 [Caroline si ťažko povzdychne] 2018 01:26:30,968 --> 01:26:32,404 ŽENA: Môžete byť v a lekárska dráma s tým všetkým... 2019 01:26:33,840 --> 01:26:35,842 ♪ ♪ 2020 01:26:44,329 --> 01:26:45,896 -[statické praskanie] -[nezreteľné bľabotanie] 2021 01:26:49,116 --> 01:26:51,075 ŽENA: ... nejaký tlak. 2022 01:26:52,685 --> 01:26:54,078 Len relaxujte. 2023 01:26:56,907 --> 01:26:59,214 [plač dieťaťa] -[pípanie zariadenia] 2024 01:27:02,129 --> 01:27:04,915 DANIEL: Ahoj kamarát. Ooh. 2025 01:27:04,958 --> 01:27:06,438 Ahoj kamarát. 2026 01:27:06,482 --> 01:27:08,484 ♪ ♪ 2027 01:27:31,202 --> 01:27:33,683 KEVIN: Bude to úplne nový svet 2028 01:27:33,726 --> 01:27:35,032 pre teba, Daniel. 2029 01:27:37,208 --> 01:27:40,080 A myslím, že budeš úžasný otec. 2030 01:27:41,517 --> 01:27:44,346 JOANNE [smiech]: To je isté. 2031 01:27:44,389 --> 01:27:46,609 [Kevin plače] -Och. 2032 01:27:46,652 --> 01:27:48,654 [plač pokračuje] 2033 01:27:48,698 --> 01:27:50,787 KEVIN: Odvedieš skvelú prácu. 2034 01:27:51,788 --> 01:27:53,050 JOANNE: Kev, prečo plačeš? 2035 01:27:53,093 --> 01:27:54,617 KEVIN: Plačem, pretože... 2036 01:27:54,660 --> 01:27:57,054 ja neviem. ja proste nie... 2037 01:27:57,097 --> 01:27:59,317 DANIEL: Ocko, budeš rozplač aj mňa. 2038 01:27:59,361 --> 01:28:00,710 prečo plačeš? 2039 01:28:03,190 --> 01:28:05,497 KEVIN: Len to viem budeš úžasný otec. 2040 01:28:05,541 --> 01:28:07,107 DANIEL [plač]: Budem len skvelý otec 2041 01:28:07,151 --> 01:28:09,675 pretože som mal skvelého otca. 2042 01:28:09,719 --> 01:28:12,287 KEVIN: Začínam byť emotívny, to je všetko. 2043 01:28:12,330 --> 01:28:13,679 JOANNE: Ach. 2044 01:28:13,723 --> 01:28:14,898 [hravé klábosenie cez video] 2045 01:28:14,941 --> 01:28:16,552 [cez video]: Chlapče, chlapče! 2046 01:28:16,595 --> 01:28:17,857 Preboha! 2047 01:28:18,902 --> 01:28:20,817 Pozrite sa na tie malé drvičky. 2048 01:28:20,860 --> 01:28:24,777 Pozrite sa na tie malé drvičky. Pozrite sa na tie malé drvičky. 2049 01:28:24,821 --> 01:28:26,344 Áno. 2050 01:28:26,388 --> 01:28:28,433 DANIEL: Viem ako ukončiť tento film. 2051 01:28:29,478 --> 01:28:32,263 Bábätká. 2052 01:28:32,307 --> 01:28:35,266 - Koniec filmu je o baby.-[hovor cez videá] 2053 01:28:35,310 --> 01:28:37,094 Potvrdzujú život. 2054 01:28:37,137 --> 01:28:38,922 Sú vyčerpávajúce. 2055 01:28:38,965 --> 01:28:40,793 [smeje sa dieťa] - Sú smiešne. 2056 01:28:40,837 --> 01:28:42,665 A tie stoja za to. 2057 01:28:42,708 --> 01:28:46,451 Tento film nie je o vnútorné fungovanie technológie. 2058 01:28:46,495 --> 01:28:48,235 Nejde o to generálnych riaditeľov miliardárov. 2059 01:28:48,279 --> 01:28:50,194 Nie je to o geopolitike. 2060 01:28:50,237 --> 01:28:53,589 Nie je to o hrôze budúcnosť alebo koniec sveta, 2061 01:28:53,632 --> 01:28:55,678 pretože môj svet práve začína. 2062 01:28:55,721 --> 01:28:57,375 Staviam detskú postieľku. 2063 01:28:57,419 --> 01:28:59,290 Práve tu, práve teraz. 2064 01:28:59,334 --> 01:29:00,465 [baby vrčia] 2065 01:29:00,509 --> 01:29:02,337 AI všetko zmení 2066 01:29:02,380 --> 01:29:05,601 spôsobom príliš mocným a zložité, aby sme to pochopili. 2067 01:29:05,644 --> 01:29:08,952 A budúcnosť nie je aby sa ktokoľvek z nás rozhodol. 2068 01:29:10,736 --> 01:29:13,609 Čo sa však môžem rozhodnúť, je byť najlepší možný manžel 2069 01:29:13,652 --> 01:29:17,700 pre moju ženu a to najlepšie možno otec pre môjho syna. 2070 01:29:17,743 --> 01:29:21,399 Či je teda naša budúcnosť AI nočná mora dystopia 2071 01:29:21,443 --> 01:29:23,836 alebo utópia o ktorom všetci snívame, 2072 01:29:23,880 --> 01:29:26,883 Aspoň budem vedieť že som urobil všetko, čo som mohol 2073 01:29:26,926 --> 01:29:30,103 viesť moju rodinu prostredníctvom tejto revolúcie AI. 2074 01:29:30,147 --> 01:29:33,846 A bez ohľadu na to, budeme tomu čeliť spolu. 2075 01:29:33,890 --> 01:29:35,195 [povznášajúca hudba sa šíri] 2076 01:29:35,239 --> 01:29:36,806 [hudba sa náhle zastaví] 2077 01:29:36,849 --> 01:29:40,505 DANIEL: Takže to je len náš prvý nápad. 2078 01:29:40,549 --> 01:29:42,812 Aký je to pocit? Cítiš to? 2079 01:29:42,855 --> 01:29:45,249 Počkaj, ja-- ako, toto nie-- toto je vtip. 2080 01:29:45,292 --> 01:29:47,425 V skutočnosti nie je ako to ukončíš. 2081 01:29:50,036 --> 01:29:52,648 Teda, je to len nápad. dobre? 2082 01:29:52,691 --> 01:29:54,389 Nie, Daniel. 2083 01:29:54,432 --> 01:29:56,129 ...uh, veľmi, veľmi hlúpy. 2084 01:29:56,173 --> 01:29:58,915 Ty si práve minul, ja nie ved kolko rokov 2085 01:29:58,958 --> 01:30:02,571 nášho života, keď na tom pracujeme, hovoriť s každým popredným odborníkom 2086 01:30:02,614 --> 01:30:04,964 na planéte o tejto téme, 2087 01:30:05,008 --> 01:30:07,663 a ty to ukončíš 2088 01:30:07,706 --> 01:30:10,796 s niektorými, ako napr. kumbaya kecy? 2089 01:30:10,840 --> 01:30:13,495 Je tam asteroid zamieril na Zem. 2090 01:30:13,538 --> 01:30:15,497 čo robíš? Len... 2091 01:30:15,540 --> 01:30:17,629 držať sa za ruky a dufam ze to dobre dopadne? 2092 01:30:17,673 --> 01:30:19,414 Rozhodne nie. 2093 01:30:19,457 --> 01:30:22,286 Musíme-- to ha-- to musí byť... 2094 01:30:22,329 --> 01:30:24,419 Záver musí... 2095 01:30:25,855 --> 01:30:27,900 CAROLINE: Dobre, prvá vec: 2096 01:30:27,944 --> 01:30:31,426 AI je tu, a ostane tu. 2097 01:30:31,469 --> 01:30:32,905 Hovno je von z koňa, 2098 01:30:32,949 --> 01:30:35,430 ale kôň je bude srať ďalej. 2099 01:30:38,171 --> 01:30:39,651 [jasanie davu] 2100 01:30:39,695 --> 01:30:41,566 Viete, jeden zo základných zákony histórie 2101 01:30:41,610 --> 01:30:44,003 je to nič naozaj má začiatok 2102 01:30:44,047 --> 01:30:45,962 a nič nemá koniec. 2103 01:30:46,005 --> 01:30:47,703 Len to ide ďalej. 2104 01:30:47,746 --> 01:30:50,532 AI nie je nikde blízko jeho plný rozvoj. 2105 01:30:50,575 --> 01:30:52,795 CAROLINE: Aj keby súčasná bublina AI praskne, 2106 01:30:52,838 --> 01:30:54,579 - ľudia sa nikdy nezastavia -[hluk fúka] 2107 01:30:54,623 --> 01:30:57,539 stavať viac a viac výkonná technológia. 2108 01:30:57,582 --> 01:30:59,410 HAO: Môžete sa rozhodnúť nepoužívať AI 2109 01:30:59,454 --> 01:31:02,239 alebo sa na ňom zúčastniť, ale je to tak aj tak ťa to ovplyvní. 2110 01:31:02,282 --> 01:31:04,023 DANIEL: Dobre, fantastické. Takže sme v háji. 2111 01:31:04,067 --> 01:31:06,635 CAROLINE: Nie, nie sme kvôli jednej jednoduchej veci. 2112 01:31:10,943 --> 01:31:12,989 Nie je to nevyhnutné. 2113 01:31:13,032 --> 01:31:15,208 Keby sme to len mohli vidieť jasne spolu, 2114 01:31:15,252 --> 01:31:18,342 bude zrejmá odpoveď vybrať si niečo iné. 2115 01:31:18,385 --> 01:31:21,040 Musíme veľmi jasne zmeniť hru 2116 01:31:21,084 --> 01:31:23,129 z pretekov na dno do pretekov o vrchol. 2117 01:31:23,173 --> 01:31:27,438 LEAHY: Problém, ktorý potrebujeme Riešenie nie je konkrétne AI. 2118 01:31:27,482 --> 01:31:31,224 To je všeobecná otázka ako budujeme spoločnosť 2119 01:31:31,268 --> 01:31:33,879 ktorý sa dokáže vysporiadať výkonná technológia. 2120 01:31:33,923 --> 01:31:35,359 Pretože dostaneme 2121 01:31:35,402 --> 01:31:36,795 len stále silnejší technológie. 2122 01:31:36,839 --> 01:31:39,668 CAROLINE: Potrebujeme modernizovať našu spoločnosť, 2123 01:31:39,711 --> 01:31:41,496 a prvý krok je schádzať sa 2124 01:31:41,539 --> 01:31:43,367 - a náročné... -ALL: Koordinácia. 2125 01:31:43,410 --> 01:31:47,023 Nejaká forma internacionály spolupráce alebo dohody o 2126 01:31:47,066 --> 01:31:48,503 aké by mali byť normy. 2127 01:31:48,546 --> 01:31:49,895 Viete, ako by sa malo budú nasadené... 2128 01:31:49,939 --> 01:31:51,549 Ako skutočné medzinárodná diplomacia 2129 01:31:51,593 --> 01:31:53,290 medzi superveľmoci. 2130 01:31:53,333 --> 01:31:56,293 Číňania sú rovnako znepokojení o tom ako Američania. 2131 01:31:56,336 --> 01:31:57,729 Myslím, že je to ťažké, vieš, 2132 01:31:57,773 --> 01:31:59,514 v prúde geopolitická klíma, 2133 01:31:59,557 --> 01:32:01,254 -ale myslím, že je to potrebné. -RASKIN: Určite. 2134 01:32:01,298 --> 01:32:04,693 Presne tým istým spôsobom naposledy to ľudstvo 2135 01:32:04,736 --> 01:32:09,611 vyvinula technológiu toto nebezpečné... 2136 01:32:09,654 --> 01:32:12,396 ...to si vyžadovalo úplné, bezprecedentný posun 2137 01:32:12,439 --> 01:32:15,530 na štruktúru nášho sveta. 2138 01:32:15,573 --> 01:32:17,619 CAROLINE: Takže to musíme urobiť úplne, 2139 01:32:17,662 --> 01:32:20,883 opäť bezprecedentný posun. 2140 01:32:20,926 --> 01:32:24,103 Vieš, rozprávame sa s ľuďmi ktorí pracujú v týchto spoločnostiach AI, 2141 01:32:24,147 --> 01:32:25,322 a hovoria, že chcú robiť niečo iné, 2142 01:32:25,365 --> 01:32:26,628 ale potrebujú verejný tlak. 2143 01:32:26,671 --> 01:32:28,151 Potrebujú vládu niečo urobiť. 2144 01:32:28,194 --> 01:32:29,979 Takže potom ideme do DC, a hovoria, 2145 01:32:30,022 --> 01:32:31,850 „No, potrebujeme Silicon Valley robiť niečo iné. 2146 01:32:31,894 --> 01:32:33,635 Oni sú tí, ktorí budú prísť s mantinelmi." 2147 01:32:33,678 --> 01:32:35,680 A tak všetci ukazujú prst na niekoho iného, 2148 01:32:35,724 --> 01:32:39,466 a na čom sa zhodnú je že potrebujeme verejný tlak 2149 01:32:39,510 --> 01:32:41,207 v záujme niečoho iného stať sa. 2150 01:32:41,251 --> 01:32:42,818 A to si ty 2151 01:32:42,861 --> 01:32:44,254 a všetci ľudia sledovanie tohto filmu dokáže. 2152 01:32:44,297 --> 01:32:45,298 CAROLINE: Musíme držať lídrov 2153 01:32:45,342 --> 01:32:47,083 v našich vládach 2154 01:32:47,126 --> 01:32:48,563 a vodcovia z tieto spoločnosti sú zodpovedné. 2155 01:32:48,606 --> 01:32:51,000 BOEREE: V ktorejkoľvek krajine sa nachádzate, 2156 01:32:51,043 --> 01:32:52,871 dajte im vedieť že nie si šťastný 2157 01:32:52,915 --> 01:32:54,569 so súčasným stavom. 2158 01:32:54,612 --> 01:32:57,093 Takže áno, je to nudné hovoriť zavolajte svojmu kongresmanovi. 2159 01:32:57,136 --> 01:32:59,356 Nehovorím, že by si mal len to urob, ale napr. 2160 01:32:59,399 --> 01:33:00,923 musíme to urobiť. 2161 01:33:00,966 --> 01:33:02,402 Ako, musíme dostať zainteresovaná vláda. 2162 01:33:02,446 --> 01:33:03,839 DANIEL: Takže len my zavolaj im a povedz, 2163 01:33:03,882 --> 01:33:05,971 „Hej, zastav Big Tech pred zničením sveta“? 2164 01:33:06,015 --> 01:33:08,887 CAROLINE: Nie, ale existujú tony skutočne zrejmé, 2165 01:33:08,931 --> 01:33:10,672 priame veci môžeme byť nároční. 2166 01:33:10,715 --> 01:33:12,499 Potrebujeme transparentnosť. 2167 01:33:12,543 --> 01:33:14,240 Musíme ukončiť tajnosť ktorý existuje v týchto laboratóriách, 2168 01:33:14,284 --> 01:33:16,634 pretože stavajú výkonná technológia, 2169 01:33:16,678 --> 01:33:18,680 a verejnosť si zaslúži vedieť čo sa deje. 2170 01:33:18,723 --> 01:33:20,682 v konečnom dôsledku budeme potrebovať nezávislý, 2171 01:33:20,725 --> 01:33:23,249 objektívne tretie strany na vyhodnotenie systémov. 2172 01:33:23,293 --> 01:33:27,036 Nemôžeme počítať so spoločnosťami hodnotiť svoje vlastné domáce úlohy. 2173 01:33:27,079 --> 01:33:31,170 Ak-ak spoločnosť používa AI a-a interaguje s vami AI, 2174 01:33:31,214 --> 01:33:34,957 malo by to odhaliť, že ste interakciu so systémom AI. 2175 01:33:35,000 --> 01:33:38,613 Áno. A - a tiež potrebujeme systém, ktorý robí spoločnosti 2176 01:33:38,656 --> 01:33:41,833 právne zodpovedný za systémy AI, ktoré vyrábajú. 2177 01:33:41,877 --> 01:33:45,750 Musíme sa uistiť, že tam sú testy a bezpečnostné normy 2178 01:33:45,794 --> 01:33:48,013 ktoré sa vzťahujú na každého. 2179 01:33:48,057 --> 01:33:49,711 Potrebujeme nejaké základné pravidlá, 2180 01:33:49,754 --> 01:33:51,538 a musíme sa stále prispôsobovať tie pravidlá 2181 01:33:51,582 --> 01:33:54,585 pri tej rýchlosti technológia sa vyvíja. 2182 01:33:54,629 --> 01:33:57,153 LEAHY: Momentálne existuje viac regulácie 2183 01:33:57,196 --> 01:33:59,285 pri predaji sendviča verejnosti 2184 01:33:59,329 --> 01:34:02,898 než je na budove potenciálne koniec sveta AGI. 2185 01:34:02,941 --> 01:34:04,682 CAROLINE: A posledná vec je 2186 01:34:04,726 --> 01:34:07,598 aby sme sa vylepšili. 2187 01:34:07,642 --> 01:34:09,731 Toto nie je práca bezpečnostného tímu 2188 01:34:09,774 --> 01:34:11,733 v ktoromkoľvek laboratóriu alebo generálneho riaditeľa. 2189 01:34:11,776 --> 01:34:13,299 Takže toto je práca každého. 2190 01:34:13,343 --> 01:34:14,779 Nenechaj to tak až po odborníkov na AI. 2191 01:34:14,823 --> 01:34:16,955 Napríklad [píp] to. Ako, toto je ten moment 2192 01:34:16,999 --> 01:34:19,262 že prechádzame od, ako, 2193 01:34:19,305 --> 01:34:21,525 väčšinou ľudskej kognitívnej sily napríklad kognitívnej schopnosti AI, 2194 01:34:21,568 --> 01:34:23,092 a týka sa to všetkých, 2195 01:34:23,135 --> 01:34:24,833 a chcem, aby ľudia boli v tom rozhovore. 2196 01:34:24,876 --> 01:34:26,878 A povedal by som, ak myslíš že AI nás všetkých zabije, 2197 01:34:26,922 --> 01:34:28,488 mali by ste pracovať vo výskume AI 2198 01:34:28,532 --> 01:34:30,229 aby sa to nestalo, pretože máš 2199 01:34:30,273 --> 01:34:32,188 obrovské množstvo agentúr. 2200 01:34:32,231 --> 01:34:33,842 CAROLINE: ktokoľvek si, 2201 01:34:33,885 --> 01:34:35,844 si odborník vo svojom vlastnom odvetví, 2202 01:34:35,887 --> 01:34:39,151 vo vlastnej škole, vo vlastnej rodine, 2203 01:34:39,195 --> 01:34:42,589 a je to na tebe ako sa AI používa vo vašom živote. 2204 01:34:42,633 --> 01:34:44,983 Či sa chcete pridať vaša školská rada 2205 01:34:45,027 --> 01:34:47,856 alebo-alebo či sa chcete opýtať svojho zamestnávateľa 2206 01:34:47,899 --> 01:34:49,379 ako používajú AI technológie, 2207 01:34:49,422 --> 01:34:51,947 ako, každý z nás môže robiť prácu. 2208 01:34:51,990 --> 01:34:56,081 Bolo tu veľa odborov dosť efektívne napr. 2209 01:34:56,125 --> 01:34:59,041 určiť, ako chcú na interakciu s týmito systémami. 2210 01:34:59,084 --> 01:35:02,697 - Odbory sestier, odbory učiteľov. -[nezreteľné skandovanie] 2211 01:35:02,740 --> 01:35:04,568 DANIELA AMODEI: Bola by som rada ako všade rodičia 2212 01:35:04,611 --> 01:35:06,135 išiel do spoločností AI a povedal, 2213 01:35:06,178 --> 01:35:08,006 „Ako môžeš byť lepší na tomto?" Vrátane nás. 2214 01:35:08,050 --> 01:35:11,183 Tak som založil Encode Justice keď som mal 15 rokov. 2215 01:35:11,227 --> 01:35:14,839 Sme prví na svete a najväčšia armáda mladých ľudí 2216 01:35:14,883 --> 01:35:18,364 boj za zameraný na človeka umelá inteligencia. 2217 01:35:18,408 --> 01:35:21,019 Nezáleží na tom, kto si, aj tie najmenšie činy pomáhajú, 2218 01:35:21,063 --> 01:35:23,935 a dokonca sa začala konverzácia je naozaj veľmi cenná. 2219 01:35:23,979 --> 01:35:25,937 DANIEL: Takže moja práca môže byť napr. 2220 01:35:25,981 --> 01:35:27,939 povedz o tom Bubby Lile pri večeri? 2221 01:35:27,983 --> 01:35:29,767 CAROLINE: Úprimne, áno, to k tomu patrí. 2222 01:35:29,811 --> 01:35:31,638 A budeme musieť urobiť 2223 01:35:31,682 --> 01:35:34,424 veľa vecí, ktoré ešte sme ani nerozmýšľali. 2224 01:35:34,467 --> 01:35:36,034 Ľudia sa budú pozerať čokoľvek, čo sme načrtli 2225 01:35:36,078 --> 01:35:37,253 a povedzte: "To nestačí." 2226 01:35:37,296 --> 01:35:38,950 Dôležité sú tie sily 2227 01:35:38,994 --> 01:35:40,909 ktoré fungujú smerom k riešeniam 2228 01:35:40,952 --> 01:35:44,434 začať prekračovať sily, ktoré pracujú proti riešeniam. 2229 01:35:44,477 --> 01:35:46,392 Robiť svet lepším bolo vždy ťažké. 2230 01:35:46,436 --> 01:35:47,829 Nikdy to nebolo ľahké. 2231 01:35:47,872 --> 01:35:49,961 Ako, tam boli veľa špinavých vecí 2232 01:35:50,005 --> 01:35:51,920 čo sa stalo v histórii, a mali sme... 2233 01:35:51,963 --> 01:35:53,704 ako ľudia mali vysporiadať sa s tým, 2234 01:35:53,748 --> 01:35:56,794 a potom povstali a zmenil to. 2235 01:35:56,838 --> 01:36:00,319 Existuje šialené číslo výzvy pred nami, 2236 01:36:00,363 --> 01:36:04,106 ale ak ich dokážeme prekonať, 2237 01:36:04,149 --> 01:36:08,066 môžeme odomknúť budúcnosť ďalej naša najdivokejšia predstavivosť. 2238 01:36:08,110 --> 01:36:10,416 CAROLINE: Musíme sa dať dokopy 2239 01:36:10,460 --> 01:36:14,246 a nájsť cestu medzi nimi sľub a nebezpečenstvo. 2240 01:36:14,290 --> 01:36:16,422 Nemôžeme byť pesimisti alebo optimisti. 2241 01:36:17,423 --> 01:36:19,425 Musíme sa stať niečím novým. 2242 01:36:21,732 --> 01:36:24,474 Volá mi kamarátka apokaloptimista. 2243 01:36:24,517 --> 01:36:26,041 "Apokaloptimista"? 2244 01:36:26,084 --> 01:36:28,260 Myslím, že by to tak mohlo byť moje nové obľúbené slovo. 2245 01:36:28,304 --> 01:36:29,914 -[smiech] -MUŽ: Možno názov tohto filmu. 2246 01:36:29,958 --> 01:36:31,263 - Môže to byť meno tohto filmu. [smiech] 2247 01:36:31,307 --> 01:36:34,179 -"Apokaloptimista." -"Apokaloptimista." 2248 01:36:34,223 --> 01:36:35,833 Áno. 2249 01:36:35,877 --> 01:36:37,269 Neverím v záhubu. 2250 01:36:37,313 --> 01:36:39,054 Verím v ducha života, 2251 01:36:39,097 --> 01:36:42,666 a ja verím v život o spôsobilosti konať. 2252 01:36:42,709 --> 01:36:44,276 -[spev davu] - schopnosť spájať sa, 2253 01:36:44,320 --> 01:36:46,365 schopnosť cítiť. 2254 01:36:49,020 --> 01:36:50,979 -[nezreteľné štebotanie misie] -[fandenie] 2255 01:36:51,022 --> 01:36:53,938 Musíme zdvojnásobiť stále viac a viac 2256 01:36:53,982 --> 01:36:57,028 na tie kapacity ktoré máme ako ľudia 2257 01:36:57,072 --> 01:37:00,118 že robotické systémy nikdy nebude mať. 2258 01:37:00,162 --> 01:37:04,296 Práve teraz je čas robiť tie rozhodnutia 2259 01:37:04,340 --> 01:37:07,473 ako ho viesť a podporovať namiesto toho, aby nás rozdelil. 2260 01:37:07,517 --> 01:37:10,259 DANIEL: Znie to tak nejako vychovávať dieťa. 2261 01:37:10,302 --> 01:37:12,435 To je to, čo sa deje. Áno. 2262 01:37:12,478 --> 01:37:14,480 CAROLINE: AI môže mať hrubšia inteligencia 2263 01:37:14,524 --> 01:37:17,222 - než naše malé ľudské mozgy, [smeje sa dieťa] 2264 01:37:17,266 --> 01:37:21,052 ale sme oveľa viac než len naša inteligencia. 2265 01:37:21,096 --> 01:37:25,056 Inteligencia je-je schopnosť riešiť problémy. 2266 01:37:25,100 --> 01:37:28,320 Múdrosť je schopnosť vedieť ktoré problémy riešiť. 2267 01:37:30,932 --> 01:37:33,717 [nezreteľné bľabotanie posádky] 2268 01:37:33,760 --> 01:37:34,892 DANIEL: Môže ísť na vašu chladničku. 2269 01:37:34,936 --> 01:37:36,198 [smiech] 2270 01:37:36,241 --> 01:37:38,113 YUDKOWSKY: Takže sa nevzdávajte. 2271 01:37:38,156 --> 01:37:39,766 Ľudstvo urobilo 2272 01:37:39,810 --> 01:37:42,160 ťažšie veci ako toto vo svojej histórii. 2273 01:37:43,553 --> 01:37:46,338 Len je ťažké presvedčiť ľudí, ktorých by mali. 2274 01:37:46,382 --> 01:37:48,645 ♪ ♪ 2275 01:37:51,474 --> 01:37:52,562 [praskanie zvuku] 2276 01:37:54,912 --> 01:37:56,827 DANIEL: Takže, keď som začal robiť tento film, 2277 01:37:56,871 --> 01:37:58,437 Povedal by som, že som bol taký, 2278 01:37:58,481 --> 01:38:00,918 v podstate cynický somarina o tejto celej veci. 2279 01:38:00,962 --> 01:38:03,094 V priebehu kurzu natáčania filmu, 2280 01:38:03,138 --> 01:38:04,661 Pochopil som že ako, 2281 01:38:04,704 --> 01:38:07,446 to je jediné nemôžeme byť. 2282 01:38:07,490 --> 01:38:09,361 ...alebo čokoľvek iné chceli by ste diskutovať? 2283 01:38:09,405 --> 01:38:11,363 Nie. Myslím, že sme toho pokryli veľa. 2284 01:38:11,407 --> 01:38:13,017 -Áno. [smiech] -MUŽ: Ďakujem veľmi pekne. 2285 01:38:13,061 --> 01:38:15,498 dakujem. 2286 01:38:15,541 --> 01:38:16,891 DANIEL: Toto je problém, ktorý je väčší 2287 01:38:16,934 --> 01:38:19,067 než ktorákoľvek jedna osoba. 2288 01:38:19,110 --> 01:38:21,547 Toto zmení svet spôsoby, ktorým nerozumieme. 2289 01:38:21,591 --> 01:38:23,462 To všetko je pravda. 2290 01:38:23,506 --> 01:38:25,551 [smiech]: Dobre. -[nezreteľné bľabotanie] 2291 01:38:25,595 --> 01:38:27,684 DANIEL: Ale to, čo máme, máme za sebou 2292 01:38:27,727 --> 01:38:30,078 je to, čo s tým robíme. 2293 01:38:30,121 --> 01:38:32,558 Ako hraničná AI rastie exponenciálne schopnejší... 2294 01:38:32,602 --> 01:38:34,430 DANIEL: A realita 2295 01:38:34,473 --> 01:38:36,562 je to, ak sa len rozhodneme je to beznádejné, 2296 01:38:36,606 --> 01:38:39,000 potom je to beznádejné. 2297 01:38:39,043 --> 01:38:40,740 ...aby sme menej stresovali na planéte Zem... 2298 01:38:40,784 --> 01:38:42,742 DANIEL: Ale ak sa rozhodnete 2299 01:38:42,786 --> 01:38:45,528 že to chceš skúsiť... 2300 01:38:46,790 --> 01:38:48,096 ...tak to skús. 2301 01:38:48,139 --> 01:38:49,967 A to je ťažké. 2302 01:38:51,273 --> 01:38:53,188 Ale vieš čo? 2303 01:38:53,231 --> 01:38:56,278 Veľké veci sa zdajú nemožné skôr, než sa skutočne stanú. 2304 01:38:58,149 --> 01:39:01,413 Ale keď sa konečne stanú, 2305 01:39:01,457 --> 01:39:05,243 je to preto, že milióny ľudí vykonali milióny akcií 2306 01:39:05,287 --> 01:39:07,550 aby sa uskutočnili. 2307 01:39:07,593 --> 01:39:10,292 A tak... 2308 01:39:10,335 --> 01:39:12,424 musíme skúsiť. 2309 01:39:13,469 --> 01:39:14,905 [ťažko si povzdychne] 2310 01:39:21,129 --> 01:39:23,522 V stávke je príliš veľa. 2311 01:39:23,566 --> 01:39:25,611 ♪ ♪ 2312 01:39:32,401 --> 01:39:34,664 [praskanie filmu] 2313 01:39:37,232 --> 01:39:41,236 Pozrite sa na neuveriteľné zmeny zažili sme a prežili 2314 01:39:41,279 --> 01:39:42,846 z doby kamennej, 2315 01:39:42,889 --> 01:39:46,110 a predsa ešte väčšie zmeny ešte len prídu. 2316 01:39:46,154 --> 01:39:49,157 ["Stratil som to na pokus" od Son Lux hrá] 2317 01:40:18,403 --> 01:40:20,449 ♪ ♪ 2318 01:40:47,606 --> 01:40:50,174 ♪ Čo budeme teraz robiť? ♪ 2319 01:40:50,218 --> 01:40:53,221 ♪ Skúsili sme to ♪ 2320 01:40:53,264 --> 01:40:55,092 ♪ Stratili sme to ♪ 2321 01:40:55,136 --> 01:40:56,746 ♪ Na vyskúšanie ♪ 2322 01:40:59,575 --> 01:41:02,230 ♪ Čo budeme teraz robiť? ♪ 2323 01:41:02,273 --> 01:41:05,189 ♪ Skúsili sme to ♪ 2324 01:41:05,233 --> 01:41:06,973 ♪ Stratili sme to ♪ 2325 01:41:07,017 --> 01:41:08,714 ♪ Na vyskúšanie ♪ 2326 01:41:11,630 --> 01:41:14,111 ♪ Čo môžeme povedať teraz? ♪ 2327 01:41:14,155 --> 01:41:17,201 ♪ Naše ústa len klamú ♪ 2328 01:41:17,245 --> 01:41:18,637 ♪ Naše ústa ♪ 2329 01:41:18,681 --> 01:41:20,683 ♪ Iba klamstvo ♪ 2330 01:41:25,122 --> 01:41:27,690 ♪ Čo môžeme povedať teraz? ♪ 2331 01:41:27,733 --> 01:41:30,823 ♪ Naše ústa len klamú ♪ 2332 01:41:30,867 --> 01:41:32,216 ♪ Naše ústa ♪ 2333 01:41:32,260 --> 01:41:34,218 ♪ Iba klamstvo ♪ 2334 01:41:34,262 --> 01:41:36,264 ♪ ♪ 2335 01:42:01,071 --> 01:42:03,726 ♪ Vzdaj sa a vypadni ♪ 2336 01:42:03,769 --> 01:42:06,685 ♪ Vstávame v umierajúcich ♪ 2337 01:42:06,729 --> 01:42:08,209 ♪ Vstávame ♪ 2338 01:42:08,252 --> 01:42:10,211 ♪ V umierajúcich ♪ 2339 01:42:13,127 --> 01:42:15,781 ♪ Vzdaj sa a vypadni ♪ 2340 01:42:15,825 --> 01:42:18,654 ♪ Vstávame v umierajúcich ♪ 2341 01:42:18,697 --> 01:42:20,221 ♪ Vstávame ♪ 2342 01:42:20,264 --> 01:42:22,223 ♪ V umierajúcich ♪ 2343 01:42:25,051 --> 01:42:27,663 ♪ Vzdaj sa a vypadni ♪ 2344 01:42:27,706 --> 01:42:30,666 ♪ Vstávame v umierajúcich ♪ 2345 01:42:30,709 --> 01:42:32,233 ♪ Vstávame ♪ 2346 01:42:32,276 --> 01:42:34,148 ♪ V umierajúcich ♪ 2347 01:42:37,107 --> 01:42:39,718 ♪ Vzdaj sa a vypadni ♪ 2348 01:42:39,762 --> 01:42:42,591 ♪ Vstávame v umierajúcich ♪ 2349 01:42:42,634 --> 01:42:43,809 ♪ My ♪ 2350 01:42:43,853 --> 01:42:45,898 ♪ ♪ 2351 01:43:15,580 --> 01:43:17,626 ♪ ♪ 2352 01:43:22,761 --> 01:43:25,286 ♪ Oh, oh, oh, oh, oh ♪ 2353 01:43:25,329 --> 01:43:26,983 ♪ Oh, oh, oh, oh ♪ 2354 01:43:27,026 --> 01:43:28,419 ♪ Oh, oh ♪ 2355 01:43:28,463 --> 01:43:31,379 ♪ Oh, oh, oh, oh, oh, oh ♪ 2356 01:43:31,422 --> 01:43:32,945 ♪ Oh, oh, oh, oh ♪ 2357 01:43:32,989 --> 01:43:34,382 ♪ Oh, oh ♪ 2358 01:43:34,425 --> 01:43:37,036 ♪ Oh, oh, oh, oh, oh, oh ♪ 2359 01:43:37,080 --> 01:43:39,648 ♪ Čo budeme teraz robiť? ♪ 2360 01:43:39,691 --> 01:43:42,651 ♪ Skúsili sme to ♪ 2361 01:43:42,694 --> 01:43:44,566 ♪ Stratili sme to ♪ 2362 01:43:44,609 --> 01:43:46,307 ♪ Na vyskúšanie ♪ 2363 01:43:46,350 --> 01:43:49,005 ♪ Oh, oh, oh, oh, oh, oh ♪ 2364 01:43:49,048 --> 01:43:51,703 ♪ Čo budeme teraz robiť? ♪ 2365 01:43:51,747 --> 01:43:54,706 ♪ Skúsili sme to ♪ 2366 01:43:54,750 --> 01:43:56,578 ♪ Stratili sme to ♪ 2367 01:43:56,621 --> 01:43:58,406 ♪ Skúšať. ♪ 2368 01:43:58,449 --> 01:44:00,451 ♪ ♪ 2369 01:44:23,126 --> 01:44:24,475 [pieseň končí]